Может, CKOPT не поставил, а кварц такой, что ему действительно плохо? Ещё был один нюанс с питанием таргета - если таргет не подключен, то иногда нужно затянуть VREFT на общий резистором в пару кОм.
Лучше вааще-то ссылать на вариант железа, а то говорим не совсем определенно.
Я когда-то такое железо придумывал -
http://www.onembedding.com/files/jtag_vit/ работают пока - только у меня 10 шт.