Всем ответившим спасибо! Теперь по-очереди:
Цитата(Alex255 @ Sep 19 2007, 18:26)

А на половине частоты дискретизации есть что?
Есть. Гармоника ровно на половине Fd около 60 Дб от основной сигнальной.
Цитата(khach @ Sep 19 2007, 18:33)

Может быть слишком крутые фронты с компаратора? ВЧ пролазит куда ненадо. Добавить небольшое R последовательно в линии клока, ну и на крайний случай еще и конденсатор на десяток пик прилепить- завалить фронты.
PS.Надеюсь, клок дифференциальный? Можно еще поставить симметрирующий трансформатор- после него кросспоинт обычно точно по середине и компоненты более 2 ГГц на АЦП непролазят- феррит режет.
С компаратора (а также с разветвителя, стоящего за ним - далее подробнее) выходят PECL уровни. Терминацию производил согласно SLLA120, то есть со стороны компаратора pull-down резисторы 150 Ом, со стороны АЦП - последовательно конденсаторы 0,1 мкФ, pull-up резисторы встроены в АЦП согласно datasheet на него. Трансформатор ставил - никакого результата.
Цитата(blackfin @ Sep 19 2007, 19:28)

Надо бы триггер на выходе компаратора поставить, дабы сважность клока равнялась в точности двум.
Частота на входе триггера должна быть, ессно в два раза выше.
На выходе компаратора стоит разветвитель cdcm1804 от TI - после включения его делителя становится все гораздо лучше, но я склонен считать, что это не из-за скважности - клоки смотрел оциллографом - визуально duty cycle очень близок к 50%.
Цитата(kiss @ Sep 20 2007, 00:47)

Думаю, что может быть виновата одна из гармоник на выходе генератора от БМГ+. На частоту 120 МГц у них скорее всего нет кварцев первой гармоники, а все остальные решения заведомо обладают значительно менее "чистым" выходным сигналом, в чем несложно убедиться с помощью анализатора спектра. Предыдущий генератор с высоким джиттером этой гармоники вероятно не имел.
Тут я согласный - но встречный вопрос - как с этим бороться - опять же после генератора стоит компаратор, который по идее субгармоники должен убирать (или я не прав?)
Цитата(kiss @ Sep 20 2007, 00:47)

Интересно, что на приведенном рисунке нет гармоник генератора входного сигнала - у меня так никогда не получается, даже с хорошими генераторами.
Ну... Тут я немножечко того..
На рисунке показан уже результат обработки (формирование квадратур, фильтрация, децимация), которая производится в ПЛИС после АЦП. Без обработки я могу принять только 12к отсчетов и там есть все, в том числе гармоники сигнального генератора, но вот эту паразитку от тактового генератора практически не видно