Посоветуйте, есть ли возможность описать мезонин (самостоятельный MAX файл), как деталь со своими габаритами и выходными разъемами? И применять его для расстановки ответных разъемов на материнской плате.

Насколько я знаю, нет такой возможности. Хотя так не хватает этой фичи.
Каждый выкручивается здесь как может.

у нас тоже применяются мезонинные платы... Мы делаем такие платы отдельно(Max файл)... а когда надо ее поставить на какую-то другую плату, то создаем элемент с ответной частью этой платы и ставим как отдельный элемент библиотеки на материнскую... в частности мы применяем разьемы PLD с различным количеством ножек.... на материнской например ставим маму, а на мезонинной ставим папу...

Проблема возникает если мезонин имеет более 1 разъема. Хотя REF. на разъемы можно нарисовать ручками при сквозной нумерации для всех разъемов, но BOM необходимо будет скорректировать.