делаю OFDM-модем, никак не могу получить приличного созвездия на выходе эквалайзера. модель в матлабе и моделсиме есть и работает нормально, а вот при задействовании ВЧ-тракта (модулятор, аттенюатор,МШУ, смеситель, фильтры, УПЧ) получается фигня. вот пример созвездия (BPSK):

а вот "идеальный" сигнал - передатчик замыкается по цифре на приемник (в моделсиме примерно так же)

ВЧ тракт настроен на максимальное усиление, SNR пока не фонтан, но на полном размахе АЦП где-то дБ 60 есть. первая картинка соответствует примерно -6 дБ от полного размаха АЦП.
Видна заметная амплитудная составляющая (неравномерность по амплитуде ~2,5 дБ), эквалайзер (в полосе передается 6 маркеров, непрерывка, по ним линейно интерполируется АЧХ) не помогает.
если сравнить спектры:


то, похоже, неравномерность в полосе смахивает на белый шум. но амплитуда великовата и явно не соответствует измеренному SNR.
у меня настало "творческое пол-шестого", м.б. у кого-нибудь есть идеи?
в аттаче дампы данных и матлабовский скрипт для симуляции.

кстати, как это принято делать? зашить табличку с ЧХ, обратной к фильтру?

Похоже это и имеется ввиду, но это не правильно. Я по такой же схеме шел - плохо. ЧХ от экземпляра к экземпляру меняется, каждое устройство получается индивидуальное, кроме того ЧХ зависит (не сильно, но все-таки, подозреваю как раз в пределах заявленной неравномерности полосы пропускания) от температуры. А у Вас модель канала на Вашей несущей есть? Если да, то посмотреть как она искажает ЧХ. Если искажения (расстояние между перегибами ЧХ) по частотной оси близки по значению к ЧХ тракта - тогда только пилотами исправлять, тракт все равно ЧХ изогнет. Если перегибы модели канала реже - тогда смысл есть с трактом шаманить. Вообще у Вас стандарт какой-то или как? Если самопальный OFDM - надо смотреть оптимально ли выбрана полоса, расстояние между несущими для использования в конкретных условиях (город, поле) именно на Вашей несущей, т.е. с учетом поглощения и отражения волн в этом диапазоне этими условиями. Сколько я знаю, в стандартах на предмет оптимальности этих параметров какие-то исследования проводят. Подозреваю что исходя из этого вытекают требования к тракту и его отдельным компонентам (например фильтры под тот же wifi), а также к количеству и расположению пилотов и т.д.

ну, это проблема решаемая - калибруем в лабораторных условиях, в т.ч. и по температуре (термометр на плате есть).

в том то и дело, что нет. предполагалось что плата будет комплектоваться доп. конверторами частоты для переноса в произвольный диапазон. соответственно и моделей куча, на каждый конкретный случай своя. так что должна быть реализована возможность гибко менять параметры модуляции. и это я пока не сделал

Да бог с ним с диапазоном, а условия какие предполагаются? Я думаю параметры гибко менять есть смысл в условиях помех, отражений, избирательных затуханий (город). А ести по прямой (какая нибудь точка-точка через вышки) то только преносом частоты и отличаться будут.
А насчет калибровки - не уверен, что ЧХ будет у разных экземпляров одинаково от температуры меняться, хотя это только догадки. Ну и если мелкая серия - вообще пофиг. Откалибровать каждый.

город маловероятен. но один из потенциальных заказчиков - вояки. что они выдумают, какие условия - никому не известно. ну и насчет простоты ситуации "точка-точка" - рассказывали мне про случай, когда на трассе построили высотку (спустя несколько лет после установки линии). условия распространения изменились существенно

это вообще прототип

в общем, я подбил бабки: за паразитную АМ несет ответственность смеситель, надо пересчитать динамику. оставшая часть - ПАВ-фильтр на пару с эквалайзером. последний совсем не компенсировал первый, кое-где даже наоборот.

Буржуи наверняка калибруют в микросхемах много чего в процессе работы.

Есть ещё такое направление в обработке OFDM сигналов CHANNEL SHORTENING.