А клок этот у Вас какие-то входные сигналы тактирует? Тот буфер, что Вы добавили, вносит задержку, если по фронту клока защелкиваются данные, то возможно нарушено время setup/hold, что и приводит к сбоям.

Слишком мощный выход драйвера может приводить к генерации колебаний на верхних гармониках.

и как с этим бороться?


Нет ничего больше не тактирует, выход генератора поступает только на вход буфера.

в описание чипа настораживает фраза "It is specifically designed for use with PCI-X applications."
ваш MAXII понимает этот стандарт?
подайте на вход буфера частоту, которую сможет показать ваш осцилл и посмотрите форму и амплитуду сигнала на выходе..
либо ищите другой вариант буфера

понятия не имею (
MAXII - EPM570T100
О, надо будет попробовать.
А какой буфер нужно искать? на какие параметры следует обратить внимание?

Может Вы меня не поняли? У Вас (кроме клока) есть ещё входные сигналы? Если есть, то они у Вас, возможно, защелкиваются этим клоком. Если это так, то внесенная буфером задержка фронта может привести к нестабильной работе.
И ещё один совет - попробуйте поставить согласующий резистор на 100 ом, между входом макса и землёй, как можно ближе к максу.

Как выше подсказали - попробовать подгрузить выход драйвера.
Встретился мне как-то (давно ещё) такой случай, когда вместо обычного шинного формирователя (АП5, АП6, 244, 245) поставили какой-то очень быстрый и на шине данных стали возникать ошибки. Оказалось всё просто - сигналы RD и WR приобрели излишнюю колебательность и как бы поступали дважды на управляющие входы.

Если буфер слишком резкий, то могут возникать колебания дорожки и емкости ПЛИС. Можно полечить подзавалив фронты. Для этого в разрыв дорожки надо впаять резистор 15... 33 Ом. Резистор на землю ничего не изменит.