Исходная АЧХ halfband фильтра входящего в состав системы - фильтр->дециматор в 2 раза
То что по идее должно получиться после децимации в 2 раза и полученного после этого наложения спектров (зеленая линия).
Дополнительно отмечу, что если тестирование данной системы провести путем подачи на вход синуса (на разных частотах) и сравнить выход по отношению ко входу, то мы как раз и увидем зеленую линию.
Та АЧХ, которая получается при подаче на вход системы единичного импульса
h=[0.042041 0 -0.087017 0 0.31156 0.5 0.31156 0 -0.087017 0 0.042041];
%формируем единичный импульс
s=[zeros(1,128) 1 zeros(1,128)];
%фильтруем
s_f=filter(h,1,s);
%децимируем в два раза
s_f=s_f(1:2:end);
%Фурье от ИХ
plot(20*log10(abs(fft(s_f))+eps));
На втором и третьем рисунке наблюдаем откровенное несоответствие поведения графика на частоте 0.5 от новой частоты дискретизации.