Что он собственно эмулирует если код то выполняется на реальном железе?

А откуда такая информация (что JTAG - эмулятор).

Вообще JTAG это никаой не отладчик - это интерфейс для тестов и отладки.
А вообще при отладке мкироконтроллеров на сколько я знаю разделяют
симуляторы - все эмулируется софтом, вообще без железа
эмуляторы - специальный вариант чипа может встариваться в реальную схему, раньше такие часто использовали когда внутри обычных чипов не было еще возможностей для отладки специальных.
внутрисхемные отладчики - возможности отладки внутри реального чипа.

По-моему, термин JTAG ICE хорошо объясняет Wikipedia

Дык сами фирмы производители из так именуют. Например:
http://www.segger.com/jlink.html
"J-Link is a USB powered JTAG emulator for ARM cores."

http://www.blackhawk-dsp.com/Emulation.aspx
"JTAG Emulators"

Фирмы продающие электронику:
http://www.signum.com/Signum.htm?p=jtagjet.htm
"Jtag jet in-circuit emulator"







Чо-то я ни где не встречал чтобы что-то втыкалось вместо проца в борду и эмулировало апаратные сингалы. Или это первоначальный смысл, который ща утрачен?

Да, раньше эмуляторы именно такими и были - вставлялись в панельку вместо процессора и натурально эмулировали его работу. И были весьма дорогими. С появлением JTAG ситуация изменилась. JTAG дает три принципиально новые возможности:

• получение реальной скорости эмуляции (когда процессор работает на сотнях МГц, вставная платка имеет определенные трудности);
• возможность полноценной отладки в составе прибора, находящегося не в лабораторных условиях;
• уменьшение цены эмулятора, который в этом случае является просто последовательным интерфейсом к самому эмуляторному ядру, находящемуся внутри целевого процессора.

Есть и недостатки - например, на вставном эмуляторе можно разместить специальную память достаточно большого объема для сохранения в ней трассировки. В случае с JTAG отладчиком это тоже принципиально можно сделать, но эта память должна располагаться внутри процессора, что приводит к его удорожанию - на это производители, конечно, не идут (уж если есть возможность добавить памяти, то лучше ее отдать под штатные функции).

По факту, вставные эмуляторы на сегодня практически умерли.

Когда только появился Join test access group (JTAG) переводил эту байду.

Прикрепил. файл .doc

Как сказано выше изначально JTAG был стандартом на вставные эмуляторы , сейчас он в основном позволяет контролировать внутрисхемно реальное железо, однако в стандарте самого Jtag-a остается возможность контролировать переферию напрямую без ядра. Это тоже постепенно отмирает, изза малой эффективности относительно текущей схемы работы:
эмулирование чипа им самим в спарке с контролирующим его хостом.