Частота выходных данных АЦП 100МГц. Типикал значение фронтов 500ps. Расстояние до ПЛИС порядка 1-2 см.
Планирую землю во всех слоях под центром АЦП разрезать, соединить в нескольких местах ноль-омными резисторами. Прошить по краям по три ряда переходных отверстий. Надеюсь это несколько уменьшит влияние на аналоговую часть от LVDS выходов АЦП и от остальной цифровой части.

Далее, могу сильно заблуждаться, но мне кажется, нужно как то уменьшить влияние LVDS линий на землю. Может попробовать уменьшать погонную ёмкость за счёт удаления плоскости земли от LVDS линий? Даже может быть в ущерб дифф. волновому сопротивлению (которое д.б. 100 Ом)? Может LVDS пары в этом плане развести во внутреннем слое?