Ну, например, вот так как на схеме.
Q1 это Logic Level N-channel MOSFET, который коммутирует питание. Если вам не нравится коммутация в цепи минуса, то поставьте P-channel MOSFET в цепи плюса. Только придется еще и проинвертировать сигнал управления МК с помощью еще одного транзистора.
R2 и C1 иммитируют нагрузку в виде схемы и вашего МК.
S3 и R3 иммитирует функцию выходного пина МК, которым вы управляете питанием.
S2 иммитирует кнопку включения питания.
На графиках представлен слудующий алгоритм управления.
Замыкаем кнопку включения питания S2 на 10мс (верхний график). На схеме и МК появляется питание (нижний график). За 4мс после подачи питания МК инициализируется и подает сигнал "поддержки" питания на затвор полевого транзистора (средний график). Транзистор открывается, шунтируя кнопку S2. МК выполняет какую-то свою программу в течение 50мс и снимает сигнал управления с затвора полевика. Поскольку кнопка S2 к тому моменту уже отпущена, то полевой транзистор закрывается и все схема вместе с МК обесточивается. В принципе, если держать кнопку нажатой дольше, то питание будет подаваться на схему столько времени, сколько будет нажата кнопка. Но не менее, чем присутствует сигнал "поддержки" питания от МК.
P.S. сюда же можно добавить защиту от переполюсовки батареи. Для этого нужен симметричный ключ. Вместо одного полевика ставим два последовательно, включенных симметрично, объединив их затворы. На втором скриншоте такая схема. На третьем она же, но с инверсным включением батарей питания (демонстрация защиты от переполюсовки).
Эскизы прикрепленных изображений