Есть отладочная плата с процессором на ARM9 (проц от Texas Instruments, TMS320DM36x). В плату вставляется SD-карта с линуксом и лоадером и на плате запускаются demo-программы.

Вопрос: в какую линуксовую папку на SD-карте записывать какой файл из скомпилированного проекта, чтобы запустить свое приложение на плате?
Я предполагаю, что *.hex, но не уверен совершенно.

Для компиляции исп. GCC, eclipse.

Скидывать нужно бинарный файл, имя которого можно узнать в Makefile'e проекта или в где-то в настройках eclipse'a. Может обозначаться именем TARGET или как-то так, или можно посмотреть где-то рядом со словом all - по-разному бывает. Если проекты в эклипсе - то вам будет проще в настройках проекта найти имя конечного бинарного файла. Может быть и *.hex. При отсутствии зависимостей от каких-либо библиотек - только один файл и нужен будет.
Обычно на SD карте должен быть раздел с корневой файловой системой, в ней должна быть папка вида /home/SOME_USER. Пользователь может быть root или другой. Можно прямо туда или, если нравится порядок, организовать где-то там спец. папку. Если отладочная плата настроена, то для запуска потребуется только консольный доступ. После загрузки окажатесь в домашнем каталоге SOME_USER, куда скинули программу. Там и запускаете.

Можно также по сети забрасывать, например с помощью TFTP, в принципе, в любое удобное для Вас место.

Линукс на ARM практически ничем не отличается от Linux for PC. Если есть трудности в работе с Linux, то советую поставить на виртуальную машину популярный дистрибутив и посмотреть на оно все выглядит.
Так же можно посмотреть в сторону проектов вроде Poky, Yocto и Openembedded-Core. Данные проекты позволяют собрать embedded дистрибутив Linux, имеют интеграцию с Eclipse и возможность отлаживать полученный образ в виртуальной машине (через QEMU).

Еще очень хорошая вещь для сборки rootfs - Buildroot (В основе ФС, собранной с его помощью, лежит Busybox).