Сами представители Xilinx не советуют использовать скорости 500 Mb и более на пару LVDS, могут уже неработать нормально не только буфферы, но и внутренние блоки!
На практике достигал 320 Mb, работает, но плата 4 класса сложности (с заходом на 5) и проводка сигнальных слоев моя личная, с расчетами волновых сопротивлений, длинны, поворотов...