автор сего проекта молчит по этому обращаюсь за помощью к общественности.
суть проблемы некоторые пакеты приходят битые, чаще всего оба пакета одного цикла,
иногда два три цикла подряд. вопрос как отыскать в чем проблемма?

Так никто ж не гарантировал что пакеты будут приходить все на 100%
Говорится только, что передача должна улучшиться.
И ретрансмитов в протоколе не предусмотрено.
Ну что хотеть от 8-й атмеги?
Шифрация кстати еще ухудшает ситуацию поскольку размножает битовые ошибки после дешифрации.
Если видно, что ошибки всего на нескольких битах в пакетах, то можно применить исправляющий код по типу reed-solomon после шифрования перед отправкой пакета, но не на этой атмеге.
Обратите внимание на протокол http://one-net.info/ если хотите чего нить понадежней

здравствуйте, спасибо за ответ, ошибки кажутся систематическими, портятся как правило два первых байта в пакете, и как правило оба пакета в цикле, случайный байт в середине пакета портится значительно реже.
проверялось без радиоканала, модули соединялись по проволоке.

Не думает ли вы, что я не отлаживал этот протокол?

Допускаю, что искажается прием преамбулы.
Возможно из-за отклонения частоты кварца, возможно провода не совсем прямые (т.е. уровни сигналов и фронты осциллографом проверяли?),
возможно вы вставили свой код в программу и конфликтуете в памяти с рабочими переменными процедуры приема, может прерывания запрещаете или изменили частоту тактирования и т.д.
А может проявился side-effect. Я ж не расcчитывал, что в паузах будет абсолютная тишина и это как-то влияет на поиск преамбулы или смещает максимум корреляции.

Для приложений, где возможны искажения зашифрованных данных, нужно применять алгоритмы гаммирования (без зацеплений и обратных связей) - они ошибки не размножают.

не думаю, рад что у вас все получилось теперь хочу чтоб и у меня то же.

в приемнике мега32, кварцы 7.372800 (константы изменил), уровни один к одному, шины питания и земли общие,
фронты не завалены, от одного кварца тактировать пока не пытался.
закоментирована работа с lcd, и добавлена пара светодиодов на индикацию crc, остальной код без изменений.
наличие шумов и реального радиоканала картину с битыми пакетами не меняет, в реальном
радиоканале немного портилась преамбула (приемник не успевал стабилизироваться) но короткий пилот-тон решил эту проблему.

согласен, что эксперимент не вполне чистый тк прошивки не оригинальные но я не эксперименты ставлю а пытаюсь собрать работающее устройство. буду рад любой помощи.

проблема в программе приемника, данные в буфере не всегда обновляются, иногда часть данных оказывается от предыдущего пакета, или если оставить шифрование то нерасшифрованные, первые 1-3 байта. контроллеры менял, дело не в них, IAR 4.20A.

Мега8 не такая уж слабенькая.
BCH 26-16-5 требует ресурсов:
538 байт кода
4 байта памяти
кодирование 298-346 тактов
декодирование тест на ошибки 1230-2778 тактов
декодирование тест и исправление 2х ошибок 3278-4588 тактов