Спасибо всем принимавшим участие в обсуждении. Устройство сделано на том чем и задумывалось - tiny13. Сразу отвечу тем, кто советовал использовать MSP - питать от линии "прозрачно для линии" получилось не только tiny13, но и яркий светодиод (2ма) в режиме ожидания.
Сигнал "вызов" обрабатывать получилось очень просто - через делитель 1k-100k завел плюс линии на АЦП контроллера и по уровню >60В просто снимаю трубку.
Сигнал "отбой" обрабатываю с помощью аналогового компаратора, к которому через фазосдвигающую цепочку подключил "плюс" линии. Частоту не определяю, т.к. в tiny13 отсутствует режим Timer Capture. Работаю с длительностями перида - запустил таймер в режиме ОС-CTC на подсчет 100 тактов. В прерывании таймера увеличиваю счетчик. Если по прерыванию от аналогового компаратора в счетчике находится число от 27 до 29 - то предположительно это период сигнала "отбой". Подсчитывается количество таких периодов и если оно больше чем (425Гц * 0.35с)*0.5, то делается вывод, что это сигнал отбой и устройство ложит трубку.
Пробовал дудеть в трубку, за "отбой" такие вопли не принимаются.

Привожу кусок программы с используемыми обработчиками, может кому пригодится:
Код
; Чип настроен на работу от внутреннего RC с частотой 1.2Mhz
;****************************************************
; Основной цикл программы
;****************************************************
MainCycle: ; <----------- ОСНОВНОЙ ЦИКЛ ПРОГРАММЫ
rcall ADC_Read
cpi AL, CALLING_LEVEL
brlo MainCycle
ATA
rjmp MainCycle
;****************************************************
; Обработчик прерывания TMR1 (Timer 1 OC)
;****************************************************
TIM0_COMPA:; Timer1 Compare Handler
in SREGM, SREG
cpi Counter, MAX_TIMER ; Если значение счетчика не равно максимально допустимому
brsh _skip_inc
inc Counter ; тогда инкрементировать счетчик отсчетов
_skip_inc:
out SREG, SREGM
reti
;****************************************************
; Обработчик прерывания аналогового компаратора
;****************************************************
AC_Handler:
in SREGM, SREG
cpi Counter, 27 ; частота больше 1 / ((27*100)/1.2Mhz) = 444.4 Гц
brlo _skip_detect ; не наша частота - выход
cpi Counter, 30 ; частота ниже 1 / ((30*100)/1.2Mhz) = 400 Гц
brsh _skip_detect ; не наша частота - выход
cpi PeriodCounter, MAX_TIMER; проверить накопленное число периодов частоты сигнала "отбой"
brsh _skip_inc_period ; если больше требуемого для распознавания - пропустить инкремент
inc PeriodCounter ; увеличить число распознанных периодов
_skip_inc_period:
; <-- здесь можно например мигнуть светодиодом и т.п.
_skip_detect:
cpi Counter, MAX_TIMER ; Если значение счетчика меньше максимального
brlo _skip_period_correction ; обработку счетчика периодов пропустить
cpi PeriodCounter, PERIODS_AMOUNT; Сравнить значение счетчика периодов, с минимальным требуемым для
brlo _just_drop_pcounter ; устойчивого распознавания сигнала "отбой"
DROP ; Если отбой распознан - положить трубку
_skip_drop_signal:
_just_drop_pcounter:
clr PeriodCounter ; Сбросить счетчик числа периодов
_skip_period_correction:
clr Counter ; Сбросить счетчик
out SREG, SREGM
reti