Не работает гигабит, хотя на ножку COL (39) подаем '1'. Все сигналы синхрониз-ии 25 МГц, вместо 125 МГц. В чем может быть ошибка?

внимательно смотреть диаграммы на страницах 74-79 даташита.
какой у вас режим для гигабита? GMII или RGMII? если не знаете, то сколько "проводов" с данными у вас в шине? 4 или 8?
для гигабита сопровождающие клоки GTX_CLK и RX_CLK (для GMII) или TCK и RCK (для RGMII) всё равно должны быть 125 МГц в любом случае

COL/CLK_MAC_FREQ - зачем он вам? у вас MAC (микросхема, которая работает с этим физуровнем) требует какого-то особого внешнего тактирования? CLK_TO_MAC не имеет отношения к сопровождающему тактированию интерфейсов GMII / RGMII.

Короче, читайте доки