Бутлоадера в контроллере изначально нет. Надо его туда прошить любым программатором, сам бутлоадер можно взять, например из application note AVR109 с сайта Атмел. После залива бутлоадера и ресета меги у вас стартует бутлоадер, т.к. в памяти программ больше ничего нет, но для дальнейшей работы надо реализовать какой то признак вашего желания запустить бутлоадер, например, установка джампера или прием символа с rs232, реализуется он либо в бутлоадере( в AVR109 это есть), тогда при программировании надо установить фьюз BOOTRST, либо в основной программе, тогда этот фъюз устанавливать не надо( состояние по-умолчанию). Часто бутлоадеры разрабатываются таким образом чтобы работать с существующими программаторами, например, уже умоминаемый мною AVR109 поддерживается программаторами AVRprog, AVROSP и др.
--------------------
|