Цитата
Умные люди пишут, что необходимо: 1. вместо радиоканала использовать ИК(с этим у меня проблем нет)
Правильно сделаный алгоритм должен быть стоек как к прослушиванию, так и к подмене сообщений. Так что пофиг, радиоканал или ИК.
Цитата
2. использовать свой оригинальный не серийный алгоритм обмена брелок-сигналка-брелок-сигналка.
А вот это в корне неверно. Главный принцип криптографии заключается в том, чтобы секретность обеспечивалась ключем, а не незнанием алгоритма. Алгоритм у Вас, как у автора, могут:
а) украсть непосредственно;
б) сами раскажете после применения методов терморектального криптоанализа

;
в) украсть опосредованно, раскорпусировав контроллер и вытащив из него прошивку, потом дизассемблировав.
г) и много других способов.
Вообщем, оба утверждения вызывают сомнения в "умности" людей, которые это говорили.
А так могу предложить банальный способ - брелок посылает пакет информации, содержащий свой ID, комманду, настроящее случайное число и цифровую подпись всего пакета данных по алгоритму RSA. Секретный ключ хранится в брелке и никогда не попадает наружу (используется для генерации подписи), а открытый (общедоступный) ключ выдается брелком в сигналку при процедуре привязывания и хранится в ней. Причем, открытый ключ можно не хранить в тайне. Можете его хоть на наклейке напечатать, все равно с его помощью возможно только проверить правильность данных, а подделать подпись - нельзя. При приеме пакета сигналка, пользуясь известным открытым ключем, проверяет ЭЦП и, если все в порядке, выполняет команду.