При сужении полосы выход даже на центральной частоте имеет импульсный вид. Не могу понять в чем дело.
Когда схема собрана как на картинке работает, но полоса +/- 1 кГц. Мне много.

Думал дело в зависимости емкости от напряжения в керамическом конденсаторе. Но поставив пленочный убедился, что дело не в этом.
Эффект возникает после увеличения емкости С2 до значения около 100нФ. Когда емкость меньше микросхема ведет себя адекватно.
Все идеи иссякли буду мучить производителя.

Всем спасибо! Нашел в чем дело.

Так поделитесь.

Делюсь. Ограничение сигнала на входе не работало. Поставил диодный ограничитель и включил слишком низкое последовательное сопротивление. Поэтому на вход микросхемы проходил сигнал уровнем выше допустимого. Это вышибало схему PLL. Сделал нормальное ограничение, и все заработало.

Кстати, обращался в поддержку TI, они открестились от данной микросхемы... говорят "не можем помочь, не оказываем поддержку по данному чипу". Хотя продают и статус активный.