Если гармоники именно с генератора лезут, а не с предусилителя АЦП, то надо фильтры- пробки ставить. Только их перестраиваемы тяжело сделать, поэтому делается набор фильтров для заданного диапазона частот с подавлением 60-80 дб.
К сожалению найти tunable bandreject на такой диапазон трудно, на более высокочастотные диапазоны использовали http://www.stepelectronics.com.tw/K&L/K&L.htm (нижняя часть ссылки)

А как со смещением дела обстоят? Внимательно ли ознакомились с datasheet АЦП, по части Clock Input and Considerations?

Сообщение отредактировал SNGNL - Jun 5 2016, 09:23

Да, все проверили, с клоком все в порядке.

Прошу прощения, тему можно закрывать, проблема была в согласовании входных цепей с самим АЦП.
С фильтрами все в порядке, они фильтруют, входной сигнал чистый - посмотрели на спектроанализаторе.

Получены значения SNDR/SFDR, близкие к даташитным.