Внимательно изучил осциллограмму сигнала. Прояснилось,что в каждом фрэйме есть старт бит, 9 бит данных, parity бит и два стоп бита.
Получается что это UART. Надо быть мне повнимательнее
Если включить в Атмеге8 UART,она сама будет выделять из фрэйма 9 бит данных?
Тогда в память нужно писать 9 бит.