Для экранировки можно применить проводящую резину, вот например
http://www.eltm.ru/provod.html . К вопросу о слоях - FR-4 такой материал, который для СВЧ использовать можно, но в случаях когда работа схемы не сильно зависит от свойств материала. И дело не в потерях, их можно учесть и компенсировать, а в ненормируемости параметров материала. То есть в одной фирме вам сделают плату с одним эпсилоном, в другой фирме с другим, то же самое по потерям. Можно например, протянуть в слоях сигнал гетеродина и потом его усилить, но делать к примеру полосковый фильтр на входе приёмника не стоит.