Я возможно отстал от жизни, но 8ФКМ на -10 дБ принять нельзя. Для 4ФКМ СШ нужен чуть лучше 1 в очень глубокой теории.
Если Вы там по Уолшам или Голдам размазываете символ во времени с помощью 8ФКМ, то тогда еще поверю. Но итоговая пропускная будет менее 1 Бт на 1 Гц полосы.

Corner
-10 конечно по Уолшам (hint: STANAG 4415). А каналы чуть получше (6 дБ+) - честное 8PSK, разумеется с эквалайзером.

16 дБ это не чуть получше
А про приём 8PSK на 6 дБ SNR - это сильно. Смотрим кривые BER

и видим, что 6 дБ - это > 2e-2 uncoded BER. Хорошие LDPC декодеры конечно вытаскивают не очень длинные пакеты при такой канальной ошибке, ок. Хотя бесперебойной связи уже не будет.
Наличие эквалайзера предполагает канал с замираниями, в нём BER будет гарантированно хуже, чем в AWGN. Плюс на пороговом SNR линейный эквалайзер внесёт дополнительную ошибку, поэтому, даже если предположить, что канал не имеет замираний, чутьё станет несколько хуже. Либо нужно использовать ML.
Конечно можно принимать 8PSK без всякого расширения спектра и ниже 6 дБ и в канале с замираниями, при условии наличия дополнительных антенн. MRC сильно облегчает жизнь.

Если мазать Уолшами, то характеристики BER от С/Ш становятся более крутыми и приближаются к квадрату в идеальном канале.

Мои сомнения вызвало