Если я верно понял, то значения токов приведены в виде действующих значений, а это значит, что расчёт числа разрядов на уставку не совсем корректен. На самом деле амплитуда то у тока будет больше и если измерять только амплитуду, то точность будет никакая по причине шумов АЦП и неидеального попадания выборок на максимум синуса.
Прежде чем подойти к схемотехнике, ряд вопросов:
1. Что предполагается в качестве первичного датчика? Трансформатор? Шунт? Датчик Холла или сигнал (4-20 мА) с внешнего преобразователя?
2. Сколько каналов измерения отслеживается? 3 фазы тока и всё?
3. У Вас времязависимая защита. Какое требуется максимальное быстродействие?
4. Какова частота дискретизации?
5. Какой матобработкой пользуетесь для оценки величины тока? Фурье? Цифровое "выпрямление" с усреднением? Среднеквадратичное значение на периоде? Амплитуда

?
Почему разработчики систем повышенной надёжности плохо справляются с простыми проектами? :)