делаю OFDM-модем, никак не могу получить приличного созвездия на выходе эквалайзера. модель в матлабе и моделсиме есть и работает нормально, а вот при задействовании ВЧ-тракта (модулятор, аттенюатор,МШУ, смеситель, фильтры, УПЧ) получается фигня. вот пример созвездия (BPSK):

а вот "идеальный" сигнал - передатчик замыкается по цифре на приемник (в моделсиме примерно так же)

ВЧ тракт настроен на максимальное усиление, SNR пока не фонтан, но на полном размахе АЦП где-то дБ 60 есть. первая картинка соответствует примерно -6 дБ от полного размаха АЦП.
Видна заметная амплитудная составляющая (неравномерность по амплитуде ~2,5 дБ), эквалайзер (в полосе передается 6 маркеров, непрерывка, по ним линейно интерполируется АЧХ) не помогает.
если сравнить спектры:


то, похоже, неравномерность в полосе смахивает на белый шум. но амплитуда великовата и явно не соответствует измеренному SNR.
у меня настало "творческое пол-шестого", м.б. у кого-нибудь есть идеи?
в аттаче дампы данных и матлабовский скрипт для симуляции.