Приобрели JTAGICE mkII , по RS232 нормально связывается с компьютером, по USB не связывается ни в WIN98 ни в XP, хотя обе находят новое USB устройство.
В чем может быть причина?

Я не знаю, как Вы связываете свое устройство по USB c Win32, но если устройство видится как CDC класс, т.е. Communication Port, то, если Win присвоила порту номер больше 4-х, некоторые программы не видят его, так как не опрашивают порты с номерами выше 4. Попробуйте вручную переопределить порт в Device Meneger (Диспетчер устройств)

Попробуйте поставить последнюю AVR Studio, там при установке спрашивает - ставить ли драйвер для JTAG ICE MKII. Ответить - да

Скорее всего, причина в этом.
Когдато-то USB-драйвер установился при инсталляции студии,
но меня раздражало сообщение о его наличии при загрузке
Виндов и при установке сервис-пака я его снес и
благополучно забыл о нем.
Сегодня подкачал 3-й сервис-пак на студию, завтра на
работе проапгрейдю и проверю. Думаю, все должно пойти.

Кстати в 3-м сервис-паке появилась поддержка AVR Dragon
low-cost emulator and programmer:

The AVR Dragon from Atmel is a powerful development tool for
on-chip debugging (OCD) and programming. It allows OCD for all
supported AVR devices (JTAG and debugWIRE) as well as all
available AVR programming modes (ISP, HVSP, PP and JTAG).

All tinyAVR and megaAVR devices with up to 32KB Flash memory
will be supported by the AVR Dragon. New device support will be
added by AVR Studio updates and service packs.

Интересно, насколько low-cost?

Что-то я не вижу здесь никакого упоминания о low cost Даже если оно так, то low cost скорее всего в этом:

Гхм.. ну в большинстве случаев хватит и этого, за исключением mega128, которую в будущем видимо заменит SAM. Действительно интересна цена на девайс. Однако если оглядыватся на то по какой цене продается mkII, этот интерес не слишком велик.

Упоминание здесь