У Atmela для AVR есть бутлоадер с AES:
Atmel AVR231: AES BootloaderВсе исходники доступны.
Применял на Меге128 даже сильно не вникая в глубину. Только входную часть под себя переделал, да интерфейс переназначил.
Генерируется свой ключ для конкретного изделия. Прошивка шифруется программой на ПК. Даже есть исходники на Си.
При загрузке в плату бутлоадер ее дешифрует, зная ключ, и перешивает флеш.
Програмки для ПК - консольные. Мы по описанию делали свой флешер с ГУИ для красивости.
Глобально, зачем это вообще нужно - х.з.
Но греет мысль, что в открытом доступе открытой прошивки нет и сделать полный клон без взлома нельзя.