Из обсуждения не совсем ясно, что именно в приемо-передатчике GFSK предполагается изучать на модели. Рискну предположить, что преподавателю не интересно поведение отдельных битов на выходе АЦП

Для GFSK в качестве модели АЦП будет достаточно квантователя. Нужно задать правильный диапазон входного сигнала и количество уровней квантования. На выходе получите целочисленный поток данных, в который автоматически добавлен шум квантования. Нелинейность АЦП на первом этапе можно и не учитывать, она будет существенно влиять на результат только при наличии мощных помех.