Оригинальная статья была
Nonlinear Estimation of PSK-Modulated Carrier Phase...
IEEE Transaction of Inf.theory vol. IT-29 N4 July 1983
а производных были сотни, некоторые в Гугле можно найти по ключевым словам Viterbi & Viterbi PSK QPSK monomial
Алгоритм так и принято называть Viterbi & Viterbi, там было их 2 Andrew и Audrey
Два пика в спектре нужно изолировать применением окна, иначе интерполяция плохо пройдет. Систематический подход как делать интерполяцию спектра можно найти здесь
https://ccrma.stanford.edu/STANM/stanm/node3.htmlДокументы от STANM-114 до STANM-118
Вот Ваш весь арсенал - окна, нелинейное преобразование, увеличение числа точек DFT для накопления минимального SNR,
борьба против настоящего физического шума. Систематическая ошибка - это только половина дела. В любой физической системе
присутствует физический шум, а возведение в степень его очень быстро усиливает.
К чему стремиться известно заранее - это предельный критерий Крамера-Рао (CRLB), с учетом усиления шума при возведении в степень, конечно.
Вообще говоря для двух спектральных пиков CRLB тоже выведен строго. Но там формулы непрактичные, а для далеко расположеных пиков можно считать как примерно для одного