В сообщениях пишет:
Fatal Error[e92]: Cannot use the 'coff' output format with this cpu
Пробовал разные CPU подставлять, но результат одинаков. COFF мне нужен для VMLab.
Подскажите, в чем проблема?

у IAR линкер один для всего и ARM и AVR 430, 8051, .....
ну не умеет он coff генерировать для AVR вообще

эх, жаль... Иногда очень полезно поэммулировать в софтовом эмммуляторе.

Пользуйтесь CodeVision, он умеет создавать COFF.