Цитата
не могу понять, что есть fmax и как получена ф-ла (*)
fmax - это оценка частоты максимума в спектре, которая отличается от реального значения на величину ошибки.
Цитата
я действительно на "потом" оставила вопрос с "шумом", что неверно. на счет требований к SNR - шум теле/радио канала. Но как правило dtmf-метки немного "приглушены", мы их слышим конечно но они тише, чем основной сигнал.
Опять же, Вы в коде задавали SNR, а мне как быть? поискать стандарты, по идее же SNR должно быть урегулировано, для хороших передачи и приема?
Я бы предложил помучить того, кто выдал вам задание на разработку

С DTMF не работал, но если говорить в целом, то вам нужно уточнить минимальное отношение сигнал-шум, при котором ваш алгоритм должен обеспечивать оценку частот с заданной точностью. Также, если предполагается что в вашем канале будут присутствовать иные сигнальные составляющие кроме меток и белого шума, нужно уточнить частотный состав этих сигналов и отношение мощности меток к мощности этих сигнальных составляющих (для вашего алгоритма эти сигналы будут считаться
помехами). В итоге у вас будет два критерия: SNR (отношение сигнал/шум) и SIR (отношение сигнал/помеха), из которых можно составить один общий критерий - SINR (отношение сигнал/шум+помеха). SINR + ожидаемый спектральный состав дадут вам исходные данные для разработки рабочего алгоритма. при минимальном SINR будет ваш предельно плохой случай. Возможно вы не сможете обеспечить требуемую точность для минимального SINR, но можно оценить ту точность, которую возможно получить. Далее увеличивая SINR вы увидите как улучшается точность алгоритма. Все это даст комплексную оценку алгоритма, можно будет делать какие то выводы и отдавать наработки дальше.