Интересует мнение по вопросу исполнение программы из сжатого файла.
Какой архиватор выбрать при данном подходе из ресурсоемкости во время исполнения.
Вопросы оптимизации данного подхода.

P.S. Может где то обсуждалась данная тема?
Пояснение - исполняться будет не родные мнемоники процессора.

Целесообразно использовать архиватор ZIP. Легко можно найти исходные тексты и подробные пояснения.
Архиваторы без потери данных (lossless) базируются на идее Лемпеля и Зива о построении нового словаря
в соответствии с вероятностью появления цепочек символов в исходном файле.

Вот от сюда и надо плясать.
Если Вам известны принципы создания Ваших данных (подмножество значаний, вероятный порядок следования и т.д.) то Вы можете создать гораздо более оптимальный архиватор по сравнению с универсальными, если конечно в этом есть такая необходимость.

Если нужна теория, то было направление в свое время. Или искать по ключевым словам slim binaries

Ну тогда уж стоит упомянуть 2 основных алгоритма Лемпеля-Зива LZ77 и LZ78 и сказанное вами больше подходит к последнему. А в первом алгоритме положение словаря постоянно меняется и словарь как бы "скользbn" по входному потоку. А вот в LZ78 нет скользящего окна и в словарь помещаются не все встречаемые последовательности, а лишь перспективные с точки зрения вероятности последующего использования.
А ZIP (RAR, 7zip) как раз основаны на LZ77. LZ78 используется в GIF, TIFF..

Дляя хранения изображений используем LZV сжатие из форматов типа GIF приличное сжатие примерно 40% с случии монохрома вообще эффективен в данных с цепочках одинаковых данных