что такое assert и как использовать в коде вроде представляю, но настроить выдачу нужного сообщения в нужное место(ну например, если возможно в какой-то файл, или в DEBUG LOG) не получается. Укажите если можно нужное направление. Заранее спасибо!

Найдите файл xassert.c там, где установлен яр, скопируйте в свой проект, исправьте что нужно.

Такого файла в IAR 6.50.2 не нашел

Скорее всего у Вас не полная лицензия. В полной лицензии есть каталог исходных текстов библиотеки. (Сужу по 6.4).

Скачано с Iar.com, а затем полечено.
На установку исходников библиотек просит пароль.

Получилось сделать вывод сообщения assert в terminal I/O. В симуляторе работает. а под jlink начинает выводить, а затем происходит слет.

assert() - это обычный макрос. Можете определить его сами и что угодно делать в его теле.

наверняка это из-за функции abort, которая перезагружает камень раньше, чем опустеет буфер передачи. нужно реализовать свою версию этой фукнции.
и да, я бы рекомендовал как пример не xassert.c, а xreportassert.c