8 бит хватит за глаза (0,05 вольта, куда точнее), тем более что аккумуляторы неприхотливые.

Это всё хорошо, если бы разряд был линейным, я вот думаю, что при приближении к нижниму пределу должна появиться нелинейность и возможно более высокая точность вычислений

Честно говоря не знаю, как достоверно оценить оставшуюся емкость батареи. Наверное по дельте изменения напряжения при заданной нагрузке (или при заданном токе)... В общем морока
Если у вас нагрузка строго постоянная, может быть имеет смысл использовать таблицу остатка заряда от напряжения на батарее, составленную даже эксперементальным путем.

Насчет точности: вы вроде используете PIC, не знаю какой там встроенный АЦП, АTtiny сейчас повсеместно 10 разрядный, точность уже лучше получается. Иначе трудно будет вложится в 3 у.е.
Или "растягивать шкалу" в районе напряжения разряда

По этому вопросу можно даже новую ветку открывать, мне методик достоверных не попадалось