Что такое "максимум шум от КВАМ модема"? Подразумевается мешающий КАМ сигнал с полосой, гораздо большей, чем интересующий сигнал?
Если нужна хорошая точность, то лучше всего воспользоваться непараметрической оценкой параметров синуса (например, методом наименьших квадратов), затем вычесть из принятого сигнала реконструированный синус и оценить мощность оставшегося шума. Если шум белый и гауссовский, то МНК оценка совпадает с оценкой максимального правдоподобия (а по эффективности совпадает с границей Крамера-Рао) и может быть получена путём поиска максимума периодограммы. Т.е. алгоритм можно реализовать в 2 этапа: сначала вычисляется преобразование Фурье и его максимум используется в качестве грубой оценки, затем ищется точное значение с помощью итерационного процесса.
Если нужен минимальный объём вычислений, то можно использовать метод моментов, но в этом случае нужно жёстко определить распределение шума.
--------------------
|