Касательно скриншотов - скорей всего лицуха у вас не полная. У меня всё фурычит как на картинка по первой ссылке.
Касательно compxlibgui.exe - это собственно и есть Simulation Library Compilation Wizard, он вам сделает все либы и файло C:\Xilinx\14.1\ISE_DS\ISE\modelsim.ini - в нём и будет содержатся объявления и пути к либам, вида:
Код
axi_7series_ddrx_v1_04_a = C:\Xilinx\14.1\ISE_DS\ISE\questasim\10.1b\nt64/edk/axi_7series_ddrx_v1_04_a
(как то так)