Советую такую последовательность действий:
1. Запускаете терминалку (я предпочитаю Zoc, для непривередливых подойдет и HyperTerminal), замыкаете txd rxd без подключения Вашего девайса и наблюдаете эхо сигнал. В противном случае ищем багу на компе.
2. Подключаете Ваш девайс и дергаете ножкой txd со стороны PC, при этом щупаете мультиметром за нужку 12 максика (за rxd со стороны меги) и наблюдаете за изменением сигнала. Если все происходит ожидаемо - можно двигаться дальше. Иначе - ищем багу в цепи txd.
3. Замыкаете выходы txd-rxd максика со стороны меги. При этом мегу нужно либо вовсе вытащить (если она в дип колодке) или стереть прошивку в меге - во избежании несчатных случаев. Опять же, дергаете ножкой txd со стороны PC и наблюдаете за ножкой 14 максика (RXD со стороны PC). Уровень на ней должен изменяться примерно от примерно -7.5 до +7.5 вольт в карйних положениях. Если это так, то все должно работать. (Естесственно, txd rxd надо разомкнуть)
P.S. Проверьте, снять ли ресет с контроллера
P.P.S. Ссылки на сайт avr123 на этом форуме считаются дурным тоном.
P.P.P.S. Если всеже перейдете на avr gcc, то с примерами будет проще

Так же отмечу, что врятли кто будет разбираться, что означает строчка типа такой
"UCSRC=0x86"
Обычно этом записывают ввиде битовых сдвигов в перемешку с битовым "или" - читать такой код проще.