Чем больше апсемплинг тем более узкополосным должен быть FIR фильтр, следовательно для обеспечения требуемого качества (скругление, подавление за полосой, неравномерность в полосе) потребуется увеличить его порядок. Если нужен апсемплинг 8х и более стоит задуматься о связке FIR + CIC.
Цитата
Я пробовал с простым ФНЧ 2-го порядка
Если речь о FIR фильтре начните с 32 порядка... А если ресурс позволяет то с 64.