< Меня и интересует зависимость уровня пульсаций от ширины переходной полосы и числа коэффициентов импульсной характеристики и как производится выбор и этого числа на практике.>
Это я не скажу.
Теперь по поводу того, вследствии чего у Вас возникло чувство что мы спорим.
Мне кажется что из всех решений Вы выбрали самое сложное. Если это ради академического интереса, разговора нет. Но если собираетесь это в деле применить, не забывайте, простое решение работает гораздо надежней. Вполне может выйти так, будете наблюдать за работой своего устройства, а про себя "Ну слава богу еще час проработало". Хотя конечно неспорю, что все можно отладить и в конце концов будет работать как часы. (пускай и китайские

)
<В качестве ликбеза скажите какие параметры мы задаем на входе функции по расчету цифровых фильтров, а какие получаем на выходе.>
Эту утилтку можно использовать и без каких-либо параметров. Просто запускаете и получаете визард фильтров, хоть по порядку, хоть по граничным частотам и затуханиям (алгоритм чего Вас и интересует, может чего сможете там откапать). При этом БИХ или КИХ фильтр, по барабану. Например можно создать эллиптический фильтр порядка эдак 8, а при переключении на КИХ он ругнется что порядок КИХ переваливает ХХХХХХ. Далее можно импортировать входной сигнал, пропустить его через фильтр, посмотреть результат. Экспортировать можно все чем опреировали, коэфф. фильтра, данные и т.п.