имеет ли право на жизнь вот такая формула для вычисления RMS сигнала

RMSi = RMSi-1*(T-1)/T + Di*Di/T,

где Di - данные с АЦП,
T - чило точек усреднения.

А ты поробуй например в маткаде забей вектор данных с заведомо известным средним числом, и пропусти через эту функцию.... Вот и увидишь чего она творит.....

пробовал в матлабе - все нормально

Ну тогда в соответствии со своими критериями о жизнеспособности данной формулы - сделай выводы....