1. Посредством ISP разрешил работу JTAG (JTAGEN=1) и On-Chip Debug (OCDEN=1)
2. Подключил JTAGICE mkII к ATMEGA128 с ипользованием TDI,TDO,TCK,TMS и sRST

3. Программирую проект через AVRStudio 4.13 SP1. Все в норме. Кристалл зашивается.

4. Жму "Start Debugging". Загружается окно Debug и указатель указывает на 1-й байт в BOOT области (SMALLBOOTSTART). В которой располагается команда rjmp

5. После нажатия F10 или F11 программа как-бы подвисает и затем через несколько секунд вываливается из Debug режима.

Как заставить работать отладку?

Сделать наоборот: "0".
RTFM рулит, как всегда...

Извиняюсь - это моя ошибка. По всей видимости у меня так и запрограммированы FUSEs. При прошивке, в закладке Fuses написано вот так:

- On-Chip Debug Enabled (OCDEN=0)
- JTAG Interface Enabled (JTAGEN=0)

Так вот у меня на против обоих этих FUSEs установлены галочки, поэтому считаю, что все таки я установил правильно, а вот описал неправильно. Иначе не работало бы программирование через JTAG

Эть...Ну, кроме как установлен другой чип, другого в голову не приходит.

К сожалению и этот вариант не проходит, хотя бы из-за того что микросхема прошивается через этот же разъем (интерфейс) и программатор без проблем

А вываливается из Студии? Может стоит посмотреть закладку в дебаг-режиме JTAGICE Options? Там мож чего накосячено.
Или скомпилировано под wrap-mode?
Чё-то слабо представляю причину...О! Вспомнил! Питалово завёл на разъём ЖТАГа?

Не, из студии не вывалиавется. В окне Message выдает ошибку "Error Single Step", а затем в студии выкидывает окошко "Platform has been disconnected, leaving debug mode". Причем после этого повторно зайти в Debug mode можно только после пересброса питания JTAGICE mkII.

Что это за wrap-mode? Где он настраивается? Пишу на ASM. Если имелось в виду опция "Wrap Relative Jumps" в нвстройках ASM, то оно у меня по умолчанию всегда выключено.

Питание на разъем JTAG завел, горит зеленый светодиод на "программаторе". А на сам JTAGICE mkII внешнее питание не заводил, так как использую USB подключение к JTAGICE mkII.

Ха-ха...тут ты попал. ;О) Оно использует питание таргета не для запитки, а как опорное для преобразователей уровня. Типа, таргет может что от 5, что от 1,8В. И ИСЕ должен и понимать, и не палить. А тебе он и пишет, что питплова на таргете нету, фуфли его отлажывать? ;О)

Ха. С TARGET все понятно. На JTAG разъем в модуле я питание подаю и на JTAGICE загорается зеленый светодиодик - т.е. все нормально.
Просто на самом JTAGICE mkII есть дополнительный разъем для подачи внешнего питания при подключении к PC через RS232. Вот его я и не подключал, так как использую подключение через USB

Ну,блин... Но фраза "Platform has been disconnected, leaving debug mode"(платформа отсоединена, отладка прекращена) вполне симптоматична. Мож дорога какая не туда пошла или недошла?

Блин, ну дык программирование же чере JTAG идет. Линии ведь теже самые. Я в замешательстве. Ща попробую на другом компе перепроверить



На другой машине и другой TARGET плате, все тоже самое. Попробал через RS232 с внешним питанием - аналогично. НЕ РАБОТАЕТ!!!!

Раз шьется через JTAG то все ок.
Вероятно у вас также запрограммирован фуз BOOTRST и при этом BOOTSZ не совпадает с секцией объявленной в вашей программе.
программа стартует не с того адреса, и как следствие - непредсказуемое поведение.

Также на глюки отладчика может повлиять фуз BODEN, т.к. brown-out detector отладчику не подвластен. При отладке BODEN желательно отключать.

Boot RST vector и Broun-out detection disabled!!! Причем я вхожу в Debug и вижу куда указывает указатель, далаю шаг и все... вылетает из Debug

Вы написали что он указывает в boot секцию, или я что-то не так понял?


Туда сходу можно попасть только если BOOTRST запрограммирован (== 0)

Это было с утра, а сейчас я уже и с отключенным BOOTRST пробовал

А камень поменять?

Пробовал на 2-х изделиях одного типа и еще на одном другого типа, правда на всех стоят AtMega128.

Может тут на форуме кто из Минска есть, чтобы проверить сам JTAGICE? Я уже не знаю, что и подумать!!!

имхо фуз М103 не сброшен

Режим совместимости с ATmega103 выключен

Это ни о чем не говорит. Прошивать вы его могли вручную через Tools->Program AVR.
Речь о том, что во вкладке Debug->Select Platform and device должен быть выбран правильный отладчик и правильный тип кристала. Вы проверили что кристал выбран правильно, и что компилируете вы под тот чип, что надо?

На чем написана тестовая программа?
Рекомендую для проверки нашкрябать одну строку на asm'e и попробовать ее отладить:

L1: rjmp L1

Войдя в режим отладки, "не шагая", попробовать через JTAG подергать порты (кликая мышкой на квадратики во вкладке "I/O View").. Если ноги будут дергаться, то большая вероятность того, что у вас что-то не так с размещением программы.

Такая же ерунда была у меня. Чип прошивался, но отлаживаться не хотел, отладчик либо зависал
наглухо, либо делал полную ерунду. Меняли чипы и было всё тоже самое. Думали что полетел JTAG mkII. Оказалось что не был попаян внешний кварц, т.е. не было клока. Пропаял всё стало нормально работать.

Значит вот что получилось:

1. Сделал новый проект на ASM с 2-мя строчками

2. Проверил, что указан JTAGICE mkII в Debug->Select Platform and device. И указана AtMega128. Все правильно
3. Запустил Build\Build and Run
4. Появился указатель на 1-й строчке моего кода L1: rjmp L2
5. Пощелкал состоянием ног одного порта PORTD. Все нормально, состояние порта устанавливается в соответствии с тем, что я устанавливаю!!!
6. Делаю шаг "Step In" и программа как бы подвисает, но такое ощущение, что она просто куда-то улетает. Так как на TOOLBAR остаются активными кнопки RESET и PAUSE.
7. Через некоторое время, не дождавшись результата, жму PAUSE. И еще через мгновение программа выкидывает окно Dissambler и в нем останавливается на адресе:

Пробовал проделывать такое несколько раз и даже со "Step Out", единственное отличие, что после нажатия PAUSE адрес моей остановки случайный.
8. В этом же окне Disassembler перехожу на начало программы и смотрю, что там все нормально записано:

9. Ставлю указатель на адрес 0000 - Set next Statement
10. Делаю "Step In", перемещаюсь на L2, делаю еще раз "Step In", перемещаюсь на L1. И так до бесконечности, все работает ОТЛИЧНО!!! Попутный вопрос, обязательно нужно работать в окне Disassembler или что у меня не так?

11. Теперь загружаю свою программу, повторяю пункты 1-5. Все тоже самое - работает нормально, за исключением того, что указатель указывает на 1-ю строчку в моей программе

12. Открываю окно Disassembler, смотрю что и там указатель указывает на 1-ю строчку моего кода:

13. Делаю "Step In" и все программа улетает куда то безвозвратно, а через мгновение, получаю знакомый: "Error single step" и затем еще через мгновение выкидывает окошко "Platform has been disconnected, leaving debug mode"

JTAG connection -> Target clock frequency должна быть меньше тактовой частоты МК более чем в 4 раза для надёжного коннекта.

В устройстве кварц на 12МГц, частота JTAG 1МГц. Тем более, все что я писал в предыдущем посте проводилось на одном и том же устройстве, а значит с одним и тем же процессором, кварцем и частотой JTAG

Может запрограммирован fuse WDTON ?
При останове программы посмотрите сброшен ли бит "I" регистра SREG

Во FUSEs Watchdog выключен. По Рестарту бит "I" всегда сброшен.

Недавно я тоже мучался с отладкой Mega128 через mkII, правда из под IARa. mkII был подключен к компу через USB. Правда загрузка firmware в кристалл вообще не происходила. Компилятор ругался что не видит кристалл. Проблема была что на одной из ног JTAGa M128 на макетке висели компоненты. После освобождения этой ноги все заработало.

Конденсатор на RESET тоже мешает.

В окне Disassembler работать не обязательно. Открывается оно тогда когда кристал выполняет код вышедший за границу вашей программы.

То что при нажатии PAUSE проц останавливается по неправильному адресу - 0xA36, может говорить о том, что
1. произошло какое-то прерывание.. (Как? если флаг I == 0, для пресечения такой возможности в тест код ставим первой инструкцией CLI)
2. программа стартует не с 0x0000 адреса.
3. отладчик перепрыгнул через одну команду после точки останова. (для проверки п.3, вставляем между двумя rjmp пару-тройку NOP'ов)

Насчет, что не так:
Используете ли вы самодельный переходник между JTAGICE разъемом и таргет девайсом, если да какова суммарная длина шлейфа?
Можете привести настройки всех фузов которые у вас установлены (можно скопировать из окна Fuses)?
Включите фуз CKOPT и проверьте (если есть возможность) что на XTAL2 есть 12Mhz.
Если 12Mhz есть, самодельный шлейф не используется, то попробуйте разорвать соединение между nSRST JTAGICE и RST таргет девайса (например отпаять пин RST и оставить его висеть в воздухе).

1. FUSEs установленные у меня:
- On-chip Debug Enabled
- JTAG Interface Enabled
- Serial Program Downloading enabled
- Boot Flash section size=512, НО при этом Boot Reset vector Disabled
- CKOPT fuse
- Brown-out Detection VCC=4.0V
- Ext. Crystal Resonator High Freq; Start-up time 16K CK + 64 ms

2. JTAG использую фирменный, шлеф включается непосредственно в отлаживаемое устройство, без дополнительных переходников.

3. Кварц работает именно на 12 Мгц, так как программа, которую я отлаживаю в приниципе работает. Но запускал ее я без оладчика и только теперь решил научиться работать с ним.

4. Непонятно, почему происходит прерывание, так как по рестарту прерывания все должны быть запрещены, а у меня проблема начинается с первой же команды. CLI поставил по 0-му адресу, но ничего не изменилось.

5. А почему программа должна стартовать не с 0-го адреса, если у меня Boot Reset vector Disabled. И еще, может пока у меня программа входит в режим Debug процессор выполняет программу и куда-то убегает? Но тогда непонятно, почему после ввода в режим Debug он не сбрасывает устройство в 0.

Этта...Раз у вас м128, то соберите какой-нить простенький клон JTAGICE и посмотрите им.
http://pol-sem.narod.ru/AVRminiICE/jtag.htm
А то мож у вас с МК2 проблема, а вы м128 облизываете...

Не должна.
Куда-то уходить программа также не может, т.к. у вас бесконечный цикл и плюс по JTAG посылается команда сброса.
Остаются варианты 1 (с прерыванием, маловероятный) и 3.
Попробуйте код:

cli
L1: rjmp L2
nop
nop
nop
nop
L2: rjmp L1
rjmp L1 // just in case
jmp L1
jmp L1
.... заполнить командами jmp L1 всю таблицу векторов

Извиняюсь за стол долгое отсутствие. С последним примером ничего путного не получилось, также вылетает как и раньше.
Я даже пробовал следующий код:

На 1-м NOP после L1 поставил BREAKPOINT и запустил F5. Результат тот же. Я не попал на эту точку, а просто как и раньше вывалился из Debug.

Причем за все это время экспериментов после вылета из Debug повторный вход в Debug не видит JTAG. Приходится перещелкивать питание JTAG.

Уже почти год работаем с JTAG mkII. Их у нас несколько. Возникали подобные проблемы с отладкой программ. Либо зацикливание глухое происходило, либо вылетало как в описанном случае. Но как показала практика проблема заключалась в отлаживаемом устройстве всегда. Программа шитая в Меги и сам отладчик были ни при чём. В одном случае кварец был плохо припаян, в другом информационные линии JTAGа перепутали, в третьем контакт в разъёме плохой был или коротец меж пинов. Проверьте получше девайсину которую отлаживаете.

А есть ли ограничения по максимальной частоте кварца в отлаживаемом устройстве? У меня 12 Мгц. С этим не может быть проблемы?

Такая же беда встречалась. Пытался отлаживать программу на ATMega32, на которой был собран мощный ультразвуковой генератор. Режим отладки начинал нормально работать только при отключении силовых цепей ультразвукового генератора (выключал драйвера выходных IGBT-транзисторов).
Также необходимо наличие блокировочных конденсаторов 0,01 uF по питанию (не скупитесь с количеством - желательно минимум по одному на каждый вывод питания из корпуса мк/контроллера) поближе к самому корпусу мк/контроллера. Также не будет лишним дроссель по питанию, также поближе к корпусу. Если есть возможность, в дополнительном слое печатной платы залить полигон под корпусом мк/контроллера с подключением его к "массе" питания в одной точке.
Описанные выше меры помогли пройти испытания на электро-магнитную совместимость (ЭМС), после нескольких неудачных попыток.
Все-таки попробуйте еще снизить частоту JTAG до 125 кГц.

Кстати, только при полноразмерном питании (т.е. выше 4.5 В) можно тактировать 12 МГц.

Чтобы бороться собственно с отлаживаемым устройством, необходимо убедиться что виновато оно. А я только что купил JTAG и это первые мои отладки. Поэтому не могу дать гарантий ни в отношении JTAG ни в отношении отлаживаемых устройств, так как еще ни разу мой JTAG я не видел в работе.
- Я уже пробовал на 3-х или 4-х различных моих устройствах и все безрезультатно. Трудно поверить, что все устройства одинаково плохо работают. Хотя возможно ошибка кроется в одинаковой схемотехнике на всех отлаживаемых платах.
- Ошибиться в распиновке JTAG я не мог, так как программирование через JTAG нормально проходит.
- В неисправности того же JTAG я тоже не уверен, так как программирование проходит, а значит линии JTAG исправны.

Вот я и мучаюсь ...

А вы попробуйте поключить какой нибудь чип к вашему ЖТАГу без всякой переферии: камень, кварец+кондёры и собственно сам ЖТАГ.
И тогда убедитесь что работает или не работает сам отладчик

Наконец-то разобрался в чем проблема. Фирменный JTAGICE MKII оказался хреновый. Из-за него и происходили все чудеса, сегодня отдал на фирму в которой покупал, но когда получу новый не известно.

Кстати, я тут в попыхах приобрел российский аналог EU-AVR-JTAG, так вот мало того что похабно сделан, но он еще отказался не видим под AVR Studio. Так что вот такая полоса невезения!!!