Можно сначала шум отфильтровать

После вычитания среднего. Шум явно более высокочастотный, чем полезный сигнал. Только, зачем модуль брать, там же вроде как кодирование тремя состояниями? Если параметры полезного сигнала заранее известны, то можно фильтр Винера применить, если одной НЧ фильтрации мало будет.