Разум все-таки победил.

Инсталлятор почему-то не мог найти файлы *ednt.dll.
Сами файлы лежат в SDD_HOME/common/win32/lib вместе с остальными, там, где они и должны быть. Но найти их для регистрации инсталлятор почему-то не мог. Помогла программа filemon от sysinternals.
Кроме того, не мог найти он еще mfc71.dll из папочки c:\windows.
Инсталлятор регистрирует dll, если их мануально расположить по адресу с:\mentorgraphics\win32.
Но после этого все равно софт не запускается, т.к. не находит функций из состава этих DLL. Выход в том, чтобы положить весь комплект еще и в c:\windows или в c:\windows\system32. Там могут оказаться DLL от старых версий, их надо потереть.
Видимо, проблема не в системе, а в менторовском инсталляторе, который не может работать с некоторыми системами...