Во время симуляции таймера 2 все регистры меняются согласно описанию, но выходы OC2A, OC2B (т.е. выходы портов PB3, PD3) не меняются. Их как-то надо включить или просто симулятор их не показывает?

Назначить порты выходами как обычно, функцию задать нужными битами в TCCR2A. Симулятор в AVRStudio может не показывать (особенно в случае PWM-режимов).

Поставил студию 4.18.684. В ней значения портов меняются, но не так, как я думал. Я предполагал, что когда значение счетчика меньше OCRnx, то выход OCnx устанавливается, когда больше - сбрасывается (или наоборот с зависимости от битов COMnx), как нарисовано на Figure 16-6. Но в симуляторе значение устанавливается только один раз и больше никогда не сбрасывается. Как же тогда получить ШИМ? Или это все-таки симулятор неправильно работает?

Уж не знаю как в 4.18, но в более ранних версиях ШИМ не симулировался. Об этом честно предупреждали. Посмотрте: Help -> AVR Studio User Guide -> Simulator -> Simulator known issues