Входной поток модулятора? Ну, типа, координаты точки символа на созвездии - это и есть входные данные для модулятора.
Или надо выходной сигнал модулятора получить? Тогда полистай этот дипломчик. И судя по вопросу, начинай читать Прокиса, Скляра и т.п.
Координаты точки на созвездии соответствуют отсчетам квадратур I и Q, как правило, сначала делают передискретизацию, т.е. повышают частоту следования этих отсчетов, затем пропускают их через фильтр, задающий форму импульсов, например, RRC-фильтр. Затем отсчеты полученные умножаются на отсчеты квадратур несущей. Вроде так, если поподробнее.
А вообще смотрите модели petrov'а, там есть блок Modulator:
модели petrov'а