Цитата(Jools @ Jul 8 2009, 14:53)

H(f) = (abs(sin(pi*M*f) / sin(pi*f/R)))^2N, где
R - децимирующий фактор
N - порядок
M - дифференциальная задержка
Это Вы из статьи Хогенауэра взяли? Там вроде бы надо брать f не от -0.5 до +0.5, а от -R*0.5 до +R*0.5. Поскольку сказано, что
Цитата
f is the frequency relative to the low sampling rate fs/R
Тогда все должно получиться