При рассмотрении основ интерполяции во многих источниках (в частности и в Interpolation in digital modems - Part I) на основе эквивалентной схемы, представляющей из себя DAC, фильтр, и ADC выводят формулу чисто цифровой интерполяции, где используют ИХ фильтра, рассчитанного в точках целая+дробная части от входной частоты дискретизации.
Вопрос, а как можно рассчитать ИХ в целая+дробная части? Например, если я интерполяционный фильтр рассчитываю оконным способом? (понятно, что так никто не делает, используют всякие полиноминальные подходы, меня интересует чисто теоритически)

Ну на счет так никто не делает, это вы погорячились. Делают, и даже очень.

Ну и если я правильно понял вопрос, то рассчитать легко.
Например, проводим интерполяцию с точностю 1/24. Например число коэффициентов ИХ для целой+дробной части нужно 32.

Тогда рассчитываем (например в матлабе) фильтр с числом коэффициентов 24*32, и полосой пропускания 1/24. Затем берем например коэффициенты с номерами 1, 24, 48... и т.д. и получаем ИХ.
Берем коэффициенты с номерами 2, 25, 49.... и получаем ИХ с другой дробной частью и так далее. Всего 24 возможных "фазы".

- в каких случаях именно этот подход оказывается более предпочтительным по сравнению с полиномиальной интерполяцией?

когда требуется получить лучшие характеристики.

- разве при такой дискретности можно говорить о том, что данный подход будет качественнее чем полиномиальный?

Эти дискретные отсчёты можно сколь-угодно точными сделать поскольку ФНЧ с любыми характеристиками можно использовать, полиномиальные же интерполяторы требуют передискретизации в несколько раз, сначала хорошим полифазным ФНЧ делают частоту отсчётов достаточную для работы полиномиального интерполятора, полиномиальный затем позволяет очень мелкие дискреты вычислять без усложнения структуры как с полифазным ФНЧ.

Вообще этот метод быстрее чем полиноминальный (при одинаковой длине фильтра меньше операций требуется), но нужно много памяти для хранения коэффициентов.