Ткните носом или ссылкой в схему подключения JTAG к меге. Вопрос из серии RTFM, обещаю положить схему на сайт.

Точно не ткну, времени нет (рабочий день заканчивается, тороплюсь), но сходи на argussoft.ru, далее раздел атмела, а там разберешься.

В описании на ATmega128 версия М схемы нет, но есть словесное описание на стр. 308.
Из личного опыта могу добавить, что для стабильной работы интерфейса на предельных скоростях нужно все 4 вывода подтянуть к +5В через 1кОм.
Вообще схему подключения в своё время заимствовал у Альтеры (семейство MAX) и цоколёвку разъёма повторил ихнюю.

вот насчет подтяжек я и засомневался.
В схеме для Альтеры в режиме программирования все 4 линии подтягиваются на 5В, а в рабочем -- TCK на землю. С мегами такого прикола нет?

Никаких приколов не замечал.

Послал на мыло

mega
____ 16x...162x...323x...32x.....64x....128x
tck.....pc2...pc4.....pc2.....pc2.....pf4.....pf4
tms....pc3...pc5.....pc3.....pc3.....pf5.....pf5
tdo.....pc4...pc6.....pc4.....pc4.....pf6.....pf6
tdi......pc5...pc7.....pc5.....pc5.....pf7.....pf7


Через jtag работатал с 16 , 162 , 128 без всяких подтяжек , шлейф 30см все без проблем.Удачи