Длительность именно символа, так как символ может кодировать более одного бита. В перечисленных вами методах модуляции только BPSK кодирует один бит одним символом. И соответствие 1МГц и 1МБит/с справедливо только для него.
Что касается полосы, то тут нельзя ставить вопрос так как вы. Вопрос обычно ставится так: какое отношение сигнал/шум для кажого вида модуляции обеспечит вероятность ошибки на бит
[тут подставить вероятность]. Зная требуемую вероятность - для каждого типа модуляции узнаете требуемое отношение с/ш (есть формулы и графики).
Все что ваш проектируемый фильтр делает - это меняет отношение сигнал шум, обрезая шум и сигнал. Урезая основной лепесток, энергии теряете много, а шума убираете мало. Оставляя крайние лепестки - шума добавляете много, энергии сигнала совсем чуть -чуть.
Про шум на входе что-то известно? Про BER (bit error rate)? Ибо фраза "без ошибок принимать сигнал" не для радиотехники. А так же вопрос
Цитата(sergey_sh @ Apr 12 2016, 08:58)

Я хочу понять какую минимальную полосу пропускания должен иметь фильтр ...
без упоминания осш бессмысленнен. Можно ответить от эпсилон окрестности 0 до бесконечности.