Коллега Vitan.
Никогда не работал и не читал документацию на упомянутый вами PHY. Однако работал с 5 другими микросхемами от разных производителей и могу сказать, что устроены они все похожим образом. Применительно к выводу ANEGA и других конфигурационных пинов, считываемых в момент снятия RESET могу сказать следующее. Наличие/отсутствие подтяжки в этот самый момент только определяет значение некоторого бита в некотором регистре ПО УМОЛЧАНИЮ. Условиями, определяющими режим работы чипа являются ОДНОЗНАЧНО значения его регистров. Если пин ANEGA подтянут не на тот уровень, то Вы просто софтом можете установить нужное значение, и это состояние чипа будет эквивалентно тому, как если бы была поправлена схема.
Это было про конфигурационные пины. Теперь про режим оптоволокна. У меня тоже были проблемы с его включением, и решились они через бит разрешения автонегоциации (Intel). Возможно, у Вас они решаются аналогичным образом. Подробности:
http://electronix.ru/forum/index.php?showtopic=42064