Проблема в том, что кварц не хочет заводится, если напряжение питания поднимать от 0 до 4.6 V, зато после 4.6, когда завёлся, можно снижать до 2,5 V - всё нормально работает.
Кварц на 8мГц. Brown-out выключен.
Просто в устройстве планируется батарейное питание, а встроенный RC-генератор использовать нельзя. Необходима точность.
Конфигурация в программаторе AVRSTUDIO/AVRISP2 H=0xD9;L=0xFF;
В чём могут быть грабли? Или это нерешаемо? Раньше я с ПИКами работал, там граблей таких не замечал...

Уважаемый! Курите даташит. На первой странице черным по белому написано:

Хм. т.е Mega1284P совсем не то?

• Operating Voltages
–1.8 - 5.5V for ATmega1284P
• Speed Grades
–0 - 4 MHz @ 1.8 - 5.5V
–0 - 10 MHz @ 2.7 - 5.5V
–0 - 20 MHz @ 4.5 - 5.5V

Мне казалось, что Mega16 при 8М может работать при 2.7V, а при 16М - при 4.5 и далее(у ПИКов, например, так)
• Operating Voltages
–2.7 - 5.5V for ATmega16L
–4.5 - 5.5V for ATmega16
• Speed Grades
–0 - 8 MHz for ATmega16L
–0 - 16 MHz for ATmega16

Ну вы и сравнили... ATMega16 на 6 лет старше чем ATMega1284P - естественно ее параметры хуже. Хотите 8Мгц@3V - ставьте ATMega164 - по ногам она совместима с 16-й (но программно - несовместима, хотя если программа написана на сях то переписать - дело 1-2 часов).

Ставьте мегу 16L, а лучше - мегу16А.

Последняя (16А) именно так и работает. Она как раз и служит заменой для 16 и 16L.