Так, нашел один косяк. Аргумент косинуса и синуса в радианы забыл перевести. Но проблему не решило

Похоже, что никто помочь не может. Жаль

Так, разобрался. Алгоритм полностью рабочий, несмотря на некоторые заявления тут.
Просто я кое в чем запутался. В аргумент косинуса и синуса нужно было подставлять не частоту, а номер спектрального отсчета, соответствующий частоте. И, соответственно, в радианы переводить ничего не надо. Ну, и еще длину буфера сделать не 70, а 90. Тогда 9000гц (Fd)/90= 100. То есть шаг по частоте 100гц.

Так кладите его сюда.

Сам Бернард Уидроу наговаривает на полностью рабочий алгоритм:
http://www-isl.stanford.edu/~widrow/papers/j1995onthe.pdf
:D

Из статьи на dsplib
http://www.dsplib.ru/content/goertzelmod/goertzelmod.html
видно (формула 9), что предлагаемый фильтр нестабилен (его полюс лежит на единичном круге в комплексной плоскости, см. https://en.wikipedia.org/wiki/Infinite_impulse_response пункт 3 - Stability). Ну чем еще тут можно помочь??? Разве что, как petrov, привести более работоспособный алгоритм.

Ну.. я не знаю уж.. Как-тщ со студентами занимался моделированием DTFM.
Мой софт (exe без вирусов):

https://mega.nz/#!XhgmjIya!opfZwvRq...XDDeoKqpCMzE1vE

Чуть позже отпишусь, когда все отлажу. Ждите.

все рассуждения на dsplib. Как что-то появится толковое, так сюда отпишусь

Записал видео с своей реализацией https://youtu.be/FhoelOKbjfk?t=964 . Сильно не пинайте за путаницу в терминологии, и за неуверенность в некоторой матчасти. Видео около часа длительностью. Примерно с 16 минуты запускаю алгоритм, и начинаю тестить и показывать что получается. В итоге прихожу в ступор.

Буду думать дальше

Полезно мысленно рассмотреть как одиночный импульс проходит через такую структуру скользящего среднего(для упрощения на нулевой частоте). Если возникают ошибки в интеграторе или в линии задержки перед ним, то эти ошибки будут циркулировать в интеграторе бесконечно, никакого КИХ фильтра скользящего среднего не получится. Ещё один вариант избежать ошибок округления в интеграторе - вынести поворачивающий множитель перед интегратором, он получится переменным.