Само по себе магическое слово LDO никоим образом снизить тепловыделение не сможет. Ибо физику не обманешь, и как у вас (Uпитания-Uнагрузки) * Iнагрузки рассеивалось, так и будет. Преимущество LDO проявится лишь в том, что позволит снизить Uпитания, как следствие уменьшить (Uпитания-Uнагрузки) и как следствие уменьшается рассеиваимая мощность.

Есть pin-to-pin совместимые с 7805, но импульсные. R-785.0-0.5 от RECOM, например. Только может имеет смысл готовый AC/DC модуль поставить? Есть у фирмы Meanwell недорогие готовые AC/DC модули на 5Вт, 10Вт, 15Вт и 20Вт для пайки на плату открытого (серия NFM) и закрытого исполнения (серия PM). Пятиваттный AC/DC модуль (58х45мм) на плате займет места столько же (или даже меньше) сколько трансформатор, диодный мост, электролит и стабилизатор. Посмотрите указанные спецификации. ИМХО эти модули должны понравиться

Конечно, в следующий раз поставлю AC/DC модуль Meanwell. По цене выйдет то же самое. Просто я уже начал делать на понижающем трансформаторе. Решил проблему так: Заменил трансформатор на выходное напряжение 7В. Электролит 4700 натягивает еще 1,5 В. На входе 7805 получается около +8,5 В. 7805 питает часть схемы (2 реле). Для питания остальной схемы использовал LDO LX8383A от "дохлой" материнки, которое питается от тех же +8,5В.
Теперь все работает, зашибись! Всем спасибо за ответы.

А вы уверены, что для питания реле так необходимо стабилизированное напряжение

Реле HJR-3FF расчитано на 5В. Максимальное прикладываемое напряжение 6,5В.