Даже когда Вы задаёте полосу вручную (нет галки "Auto"), программа сообщает, что фактическая полоса ~ 45 кГц. И это как-раз по причине неадекватности фазового шума опорного генератора шумам микросхемы.

То есть советую взять опорник получше, например вот
такой сразу на 80 МГц.