В Iar AVR 5.11b столкнулся с проблемой, что при попытке заполнить
всю неиспользуемую память значением 0xFF (галка в опциях линкера) компилятор выкидывает ошибку:
Fatal Error [e38] : Option -H must not de defined more than once : H1895.
Если кто нибудь сталкивался с данной проблемой, помогите решить пожалуйста.

Ключ -H1895 стоит в стандартном xcl-файле. Если нужно другое значение, то отредактируйте стандартный xcl или используйте свой.

спасибо, буду смотреть

Ищите там же вторую галку "заполнять неиспользуемые вектора кодом RETI". Она тоже использует опцию -H.

Спасибо. Именно в этой галке и была проблема.