В общем, теперь такая ерунда, если подключен кабель то сигналы бегающие по сетевому кабелю на обоих платах примерно одинаковые (около 1В длительностью ~100нс, период слишком большой чтоб его на осцилле увидеть) и полярность нормальная (не помню уже куда я ему пнул) но теперь, если смотреть относительно земли на отлаживаемой плате, на TX концах наводка 50Гц (~2,5В) раз в десять больше чем на "эталонной", хоя может это и не важно.
Но все равно, линк мне так и не является

Хотя если включить дуплекс, PHY зажигает светодиод его активности, причем подключение сетевого кабеля при этом не влияет.
Еще куча странностей:
1) Если включить 100М, то PHY начинает непрерывно чего то усиленно вываливать в сеть
2) Если еще включить auto-negotiation, непрерывная передача прекращается, но теперь передача "дежурных" импульсов носит периодичный характер ~1c, при этом еще то зажигается то гаснет светодиод дуплекса. Зато это все происходит только при подключенном кабеле.