1. FSM - finite state machine, т.е. конечный автомат. Используется для управления. Подробнее о них можно поискать на форуме или в Яндексе.
2. Задача, поставленная в проекте pack.vhd - передача простого UDP-пакета на компьютер.
3. STATE1 и NEXT_STATE1 - текущее состояние FSM и следующее состояние. COUNT1 и NEXT_COUNT - текущее и следующее состояние счётчика. Он также используется для управления FSM. txd, txen, txd4, mdc, mdio - для взаимодействия с микросхемой phy.
4. Никакой начальной инициализации я не проводил. Без всякой инициализации всё заработало.
Логика работы проста: происходит постоянная посылка UDP-пакета, затем пауза, затем снова посылка и т.д. Посылается UDP-пакет минимальной длины (кажется, 64 байта). Полезная часть пакета представляет собой числа от 0 до 17 (всего 18 байт). Пересылка пакета производится частями по 4 бита.
Для запуска на другой машине с другим MAC - адресом придётся изменять заголовок пакета. Нужно правильно указать MAC-адрес получателя (компа), ip-адрес получателя и изменять контрольные суммы UDP-пакета и Ethernet-пакета. Проще сформировать новый пакет с помощью вот этой проги:
http://www.fpga4fun.com/files/EthernetUDP.zip.
Рекомендую ознакомиться вот с этим сайтом:
http://www.fpga4fun.com/10BASE-T.html