Спасибо всем сочуствующим. Разобрался с кварцами. Перепахал макетку, менял конденсаторы, кварцы... Все было как в поговорке: то ли лыжи не едут, то ли я еб...тый
Проблема была в следующем: я использую для программирования программатор от протоса (огромное ему спасибо!). В описалове к нему сказано, что у него на выходе постоянно 1MHz. Вот на этой частоте и запускался контроллер. Отключил от ISP программатор - и все, работает на частоте кварца.