У кого-нибудь получилось установить CST Microwave Studio 5.1.3 под WXP64 ?

Да, конечно.
только нужно использовать удаленный (network) сервер лицезий.
Драйвер ключа и демон lmgrd , идущие в комплекте с v5.3 они не поддерживают x64
Возможно, если поставить менеджер лицензий от v2006 (он обратно совместим с предыдущими),
то можно будет и локально запустить.

Однако не запускается через сетевой сервер лицензий: Ошибка 8. Возможно неправильный файл лицензии...

Если Вы не используете эмулятор ( легал FlexID) , проблем не будет
В противном случае , Вам надо иметь эмулятор с валидной лицензией( даже на HostID=ANY)
Или генерировать лицензию на Ваш HostID=MAC address
Или поработать с vendor cstd