Возможно у меня был похожий случай, только с EPM7128 и ATF1508. Проект занял практически весь кристал, осталось 4 ячейки, при этом TDO оказался занят под зарытую ячейку, но как выход он уже работать не мог, прошивал я при этом ATF1508 естественно после конвертации pof2jed. Так программа ATISP отказывалась программировать из-за этой занятой ячейки. Так как опыт у меня небольшой я пытался руками переопределить ячейки и затем заново откомпилить

Но потом нашел флажок JTAG - enable, после чего все наладилось. Сейчас я заливаю в EPM7128 с Максом II и Квартусом там такого флажка на поверхности я не неблюдал (в настройках наверняка где-нибудь зарыт), но все многократно компилится и программируется без проблем.
Конечно в моем случае была зарытая ячейка, а не выход пользователя, но возможно это не принципиально.
Конечно же TDO должен выходить на JTAG