Плотность чего?
Если расстановки микросхем, то максимальная будет least'овыми courtyard'ами вплотную, для ОЗУшных БГАшек 2мм между корпусами.
Если дорожек - то зазоры лучше не уменьшать. А вот если толщина платы позволяет, то хоть каждый байт на свой слой и будет счастье.

IMHO, если питание, охлаждение и разводка правильно сделаны, то глюков не будет.