Реализация кодера/декодера на ПЛИС не очень сложна, в зависимости от выбраного кода конечно

. Есть "готовые" решения, например www.opencores.com
Посоветовал бы применить на 5 Мбит/с, ПЛИС уровня Cyclon (Altera), что будет довольно удобно на этапе разработки и тестирования. Кроме этого если необходимо на этом же Cyclon"e" можно и пару цифровых фильтров добавить в систему, что неплохо будет для вашей задачи.
Всегда остается гибкость проекта с ПЛИС по сравнению с примением уже готовых микросхем, но столкнетесь с тем что "почти" все нужно сделать...
Каковы еще требования к радиостации по ЦОС ?