У МК 4 GND вывода, 3 цифровых GND, 1 AGND. Каждый вывод на стороне квадрата. Вариант, сделать на верхнем слое область металлизации GND под корпусом МК. Соединить выводы GND МК с металлизацией, включая AGND. Также у МК 3 VCC вывода, сделать на нижнем слое область металлизации VCC под корпусом МК. Соединить выводы МК через переходные отверстия с областью VCC. У МК есть аналоговые входы АЦП. Использовать буду два входа. Планирую сделать область металлизации AGND на нижнем слое под аналоговыми выводами МК и под элементами аналоговой части (ОУ, и т.д) AGND будет, соединяется с цифровой землей на выводе AGND МК через перемычку 0603 0Ом и через переходное отверстие.

Все сильно зависит от требуемой точности аналоговой части и от обстановки по помехам. ATMega16 я разводил так: земляной полигон внизу, питание соединяется сверху, RC на аналоговое питание, там где используется. Требования к точности были небольшие.

А где вы соединяли AGND с DGND и через что нулевым резистором?

Да я забил на это и соединил прямо на полигоне. Токи по плате у меня небольшие, точность небольшая нужна, скорость опроса небольшая. Поставил фильтрующие конденсаторы, результат округляю до 7бит примерно, за опору беру напряжение питания (оно у меня хорошее, не шумит, использую LM78M05).