Рассмотрите простейший канал, из одного луча вычитается второй с коэффициентом и задержкой, рассмотрите его импульсную характеристику, рассмотрите суперпозицию символов на выходе канала, что будет происходить в момент взятия отсчётов с символьной частотой в оптимальной точке.

Ну если я с утра не ошибаюсь - то физической реализуемостью АЧХ - одно из условий - это невозможность нуля на каком-то протяженом промежутке частот, а только в некоторой точке на оси частот.
Насчет нуля в середине и на краях - существует мнение что страшнее провалы в середине, поскольку там сосредоточена основная энергия сигнала. Хотя с другой стороны труднее всего выравнять спектр на краях, потому что там сильнее всего проявляются искажения - алиасы, кстати в этом считается одно из преимуществ дробного эквалайзера что он как раз и раздвигает соседние алиасы и лучше исправляет на границах полосы чем обычный эквалайзер.

Мне почему-то кажется, что провал на границе опаснее, потому что только там содержится информация, необходимая для символьной синхронизации.