Поразительная вещь, инкрементные шифраторы самые распространенные датчики вращения, а принципы обработки двухфазных сигналов практически не упоминаются в книгах по цифровой электронике.
Может кто-нибудь укажет хорошую ссылку или книгу?

Конечно, на данный момент у меня реализован счетчик, но хотелось бы сравнить. А как, например, реализована схема в механической мышке?

Конечно это далеко не оптимальный вариант, но для проверки думаю покатит.
исходник на vhdl
описание

Пожалуй это то что я искал. Расшифровка VHDL конечно у меня займет время, т.к. работал до этого только с AHDL, но уже по описанию в pdf вижу полезную приблуду - цифровой фильтр - такого в моем счетчике небыло.

Ya delayu proshe 4em Atmel: Nu na vxode estestvenno filtruesh' spikes (xotya bi i tak kak u Atmel) a zatem prosto formiryu A/B rise/fall edges event pulses i elementarno logu4eski iz A,B,A_rise,A_fall,B_rise,B_fall signals drive up/down events for postion counter...(voobshe ne lublu state mashins, prosto ne perevarivayu)

voobshe encoders(analogovie i serial'nie) eto odna iz moix tem na rabote, tak 4to esli est' voprosbl po nim i po obrabotke vsegda gotov