Интересная штука. Вот тут сравнение подробное NS3 vs DVB-S2. По описанию выходит что это как-то улучшенный DVB-S2.
p.s. А вообще реально сделать RRC c 5% скруглением?

не поверите, я тут курирую проект там фильтры с 2.9% скруглением %)


Если вы шумовую полосу, то тут то как раз все будет в норме, смотря как фильтры и корректор рассчитать. модельку доделаю и выложу.

Как не считайте все равно суммарный фильтр будет шире чем традиционный RRC.
Кстати, на счет нетрадиционных решений, если вспомнить ITU-T V.34 , там есть такая штука
nonlinear predistortion. Это нечто вроде DFE но обратная связь по решению как-то
хитро вывернута на передающую сторону. Может быть и в NS3 что-то такое сделано.