Какие подводные камни у субдискретизации? Что нужно при этом предусмотреть?
Хочу продемодулировать ЧМ-сигнал с помощью АЦП с частотой выборки меньше двойной несущей частоты сигнала, насколько это возможно?

один из камней: если ваш полосовой сигнал находится в четной зоне Найквиста, то при субдискретизации он перенесется в первую зону (от 0 Гц до Fsample/2) с инверсией спектра, поэтому может потребоваться программная перестановка полученных коэффициентов. А если сигнал в нечетной зоне Найквиста, то перенесется без инверсии, и лишних действий производить не потребуется =) . Так что выбирайте исходя из данных соображений частоту дискретизации

Крайне необходим аналоговый полосовой фильтр. Он предотвратит потерю полезной энергии (соседние периоды должны иметь практически аналогичную форму) и защитит от помех вне рабочей полосы. В отличие от upsampling, где 'обязателен' цифровой фильтр.

Джитер клока АЦП сильнее влияет.

При субдискретизации, когда частота дискретизации меньше входного сигнала, АЧХ выбранного АЦП не должна искажать сигнал. Например максимальная частота у АЦП может быть по документации 40 Мгц, а входной сигнал у вас 90 Мгц. Так вот есть конвейерные АЦП, у которых АЧХ позволяет принимать сигналы без искажений на частотах выше частоты дискретизации. Соответственно надо ставить внешнее АЦП, и оно должно быть конвейерной архитектуры (pipeline).

При точных измерениях ставят АЦП внешнее из соображений обеспечения отдельного канала питания (например питают от малошумящего LDO)

Именно, это основная причина, почему даже для узкополосных сигналов ПЧ переносят обычно смесителем на частоты пониже, а не используют прямую субдескритизацию.Неизбежный джитер клока АЦП порождает шум, мощность которого пропорциональна квадрату частоты дискретизируемого сигнала, а не его полосы. На 70 Мгц есть АЦП с практически идеальной апертурой, но шум, порождаемый неизбежным джитером клока АЦП в 50 раз выше, чем на 10 Мгц.
При субдескритезации он может превысить уровень естественных тепловых шумов, ограничивая чувствительность.




Это возможно, но нужен хороший, более дорогой кварц для клока АЦП и грамотный дифференциальный дизайн генератора. Нужно понимать, что любой вентиль порождает джитер, а неграмотный дизайн - это со страшной силой