10, 16, 17 - питание синтезатороной и РЧ части микросхемы. Конечно это не описано в даташите, но спектр помех на этих выводах об этом свидетельствует. Откуда запитан ФД- неизвестно.
Замечания про виасы термалпада снимаются- мой косяк, недоглядел ПДФ с проектом. Как один из вариантов борьбы с рваной землей - позамыкать петлю питания конденсаторами на землю в обе стороны - и к термалпаду, и наружу. Хотя бы по 2 конденсатора на сторону микросхемы. Только конденсаторы обязательно должны быть СВЧ, т.е собственный резонанс на частотах выше 4 ГГц.

Пересчитал и перепаял петлевой фильтр. Выходная частота стала очень стабильной. Шаг перестройки ровно такой, какой я и указываю. Остаётся одно но: какие-то побочные спектры. Как от них избавиться? Прилагаю файлы в архиве (там спектры и проект в ADIsimPLL)  ADF4351________.rar ( 46.16 килобайт ) Кол-во скачиваний: 212
.

Это гармоники вашего сигнала. На выходе у этих синтезаторов далеко не синус. В даташите так и написано: уровень второй гармоники -20дБ относительно основного сигнала, уровень третей гармоники -10дб, у остальных гармоник уровень будет меньше. Избавиться от них только с помощью ФНЧ, других способов не знаю

Можно и перестраиваемым полосовым, но это уже менее рационально, чем пара-тройка коммутируемых ФНЧ или перестраиваемый ФНЧ.
А нужно ли от них избавляться??? Это же учёба?...

Ну да. Просто, я думал, что там синус выходить будет) Интересно же. Если невозможно, то значит невозможно). То есть, получается, что генератор, перестраиваемый в широкой полосе на базе этой схемы сделать нереально? Вообще, практическим заданием было создать генератор синуса, перестраиваемый в полосе от 900 МГц до 4ГГц.

Существуют-ли микросхемы, работающие в том же диапазоне, но не имеющие подобного рода проблем с гармониками?

Наврядли... А с каким качеством нужен синус?

Что имеется в виду под качеством?

Да и проблема то на самом деле не существует. Всё легко решается фильтрацией по выходу. Нужна либо пара перестраиваемых ФНЧ+ЦАП, либо набор ФНЧ+многоканальные коммутаторы. Второе решение обычно применяют чаще, но в полосе более 2 октав оно становится нерациональным.
Ещё можно ЖИГ-фильтр по выходу поставить, но это далеко не всегда применимо и оправдано. Всё зависит от цели и характеристик...

...Под качеством, как я понял, имеется в виду максимальный уровень гармонических составляющих отно сительно несущей, выраженный в дБ.

Да, это я и имел в виду.
"пара перестраиваемых ФНЧ+ЦАП" - а можно пример такой схемы, просто я не совсем понял, при чём тут цап и как сделать перестраиваемый ФНЧ на такой диапазон (900 МГц - 4ГГц)...

Если взять ЦАП AD5781 и пару перестраиваемых фильтров HMC890LP5 и HMC881LP5 и правильно их скоммутировать, то выфильтровать синус в таком диапазоне представляется вполне реальным. Не думаю, что есть смысл рисовать схему...

При цене этих фильтров в 98 бакинских за штуку на сайте hittite дешевле взять вторую 4351 и смеситель. Настроить ее на фиксированную частоту и смесиителем и одним ФНЧ выделить разностную частоту.
Пытались уже выфильтровывать гармоники перестраиваемыми филтрами- но слишком невыголно получается. Если набором постоянных фильтров - то куча переключателей получается и много места на плате уходит под фильтры. Если перестраиваемыми фильтрами (полосовик и режектор) то настройка очень геморройная - цена рабочего времени наладчика задирает цену изделия до небес.

Но ведь фильтрация гармоник - вещь сугубо специфическая и не слишком часто потребная. 200$ - чепуха в сравнении с ЖИГ-фильтром и его схемой управления. Если речь идёт о генераторе ценою в несколько килобаксов, то как вариант выглядит резонно. Тем более, что такие варикаповые фильтры многие сами собирают.
Насчёт коммутации: до 8 каналов всё не так уж громоздко при двухстороннем монтаже на многослойке. Мы обычно спокойно к этому относимся. Вот от 16 и выше - беда!
А вот насчёт смешивания я не понял: как таким образом получить чистый синус от 0,9 до 4 ГГц?

Да вот как то так (выдрал из сервисмануала первого попавшегося СВЧ генератора). Только диапазон ЖИГа земенить на фундаментальный диапазон ADF ( 2200-4400). Какую брать частоту гетеродина дауна- тут надо подумать. В принципе будет работать и 2200 и 4400 (если выход от нуля требуется) но надо смотерть на нежелательные компоненты в спектре и доступность элементов. Если надо по-дешевле я бы на 2200 сделал. Если надо по-чище спектр то на 4400. Ну и ФНЧ надо добавить после смесителя на блок-схеме.
Ну понятнго дело что на семплеры и старинную фапч обращать внимание ненадо- у нас все в микросхеме спрятано.

Уважаемые форумчане, спасибо за помощь и советы! Проблема решена.