Сделал проект, теперь заказчик хочет, чтобы фирмвер грузился по USB, но был закодирован. Сам такого никогда не делал, но знаю, что тема уже разработана. Не подскажете где можно почитать материалы по теме, чтобы не изобретать колесо?

dfu bootloader есть от самого STM32 в исходниках.
Там, вроде, даже встречались с шифрованиями.

Кодирование просто ради кодирования или реально от каких-то мастеров-ломастеров надо защититься? В институте лектор по криптографии говорил, что шифр сам по себе не гарантирует стойкость. Опять же терморектальный криптоанализ...

У Atmela для AVR есть бутлоадер с AES:
Atmel AVR231: AES Bootloader
Все исходники доступны.
Применял на Меге128 даже сильно не вникая в глубину. Только входную часть под себя переделал, да интерфейс переназначил.

Генерируется свой ключ для конкретного изделия. Прошивка шифруется программой на ПК. Даже есть исходники на Си.
При загрузке в плату бутлоадер ее дешифрует, зная ключ, и перешивает флеш.
Програмки для ПК - консольные. Мы по описанию делали свой флешер с ГУИ для красивости.

Глобально, зачем это вообще нужно - х.з.
Но греет мысль, что в открытом доступе открытой прошивки нет и сделать полный клон без взлома нельзя.

Спасибо всем ответившим.