Никак не могу выбрать микроконтроллер под свою задачу.

Критерии: 1 x UART для обмена данными с bluetooth модулем
минимальные размеры
1 таймер для генерации ШИМ сигнала
1 АЦП (для мониторинга питания)

Планируется реализовать Modbus-подобный протокол для обена по bluetooth

С семейством определился - MSP430, но никак не могу хотябы приблизительно посчитать необходимое кол-во SRAM и Flash.

Поставьте в прототип побольше и потолще, когда все напишете, тогда и выберете минимально достаточный, когда сами будете знать, сколько чего точно нужно.

Для начала возьмите вот этот http://www.ti.com/product/msp430f1611
Два USART, 48К Flash, 10К RAM. Он Вам точно подойдте.
Второй USART поможет Вам в отладке, 48К Flash это очень много, можно написать любой алгоритм, если конечно не загружать туда Бейсик или Паскаль А 10K RAM достаточно для пакетов любого протокола, хватит на простенький TCP/IP.