Интересует, хватит ли производительности MSP микроконтроллера(пока не выбрал какой именно) для следующей задачи:
одновременно по 4 каналам демодулировать сигнал FSK(АОН Caller ID) и по другому каналу детектирование DTMF сигнала?

Смеетесь. Он и с одним детектированием на пределе справляется.
Можете посмотреть проект
http://aly.projektas.lt/Projects/GSMA/GSMA.htm
AVR даже быстрее работает и мог бы наверно сделать один DTMF и один FSK.
С вашей задачей точно справиться dsPIC или LPC21xx

Ну дык! А если аппаратное умножение и на ассемблере?

Два канала DTMF и ADPCM кодирование на 169 на 6 MHz - справляется. Не считая часов, записи во флеш и остальных мелочей

Сомнительно, что DTMF декодеры эти совместимы с рекомендациями ITU.
А также сомнительно, что все это способно работать <B>одновременно</B>

Тем не менее все это работает давно, долго и успешно. Забыл сказать - еще одни фильтр на сигнал "занято"

Программное обеспечение писалось на ассемблере или на С?

Конечно на ассемблере...

Можете назвать потребности каждой из задач(которые вы реализовали) в MIPSax?

Точные цифры я конечно не помню, но порядки такие -
сжатие звука (ADPCM) 65-75 тактов
занято - 80 тактов
DTMF - 60-80 тактов на фильтр
часы - 10-20
насчет nanda не помню - где-то 150 тактов