ATxmega3UВ подробности не вдавался, но судя по картинке Figure 10-1. The clock system, clock sources and clock distribution on page 23.
XTAL1 вообще не поступает на RTCSRC.
А TOSCSEL вроде как нету ни у A1U ни у A3U.
Bit 5 – TOSCSEL: 32.768kHz Timer Oscillator Pin Selection
This fuse is used to select the pin location for the 32.768kHz timer oscillator (TOSC). This fuse is available only on
devices where XTAL and TOSC pins by default are shared.Гораздо интереснее узнать почему работает XMEGA128A1U, а не почему XMEGA256A3U не работает.