а код программы можете выложить?
я сделал смещение, с ним все отлично работает (совпадает с измерениями мультиметра), но совесть мучает

Да дело вряд ли в коде.Если сигнал прямо с переменника.,то надо учесть,что у него может не быть R=0,да еще если высокоомный,а у вас подтяжка внутренними резисторами.Вот здесь и может выскакивать.

15 LSB offset error - это жесть
а так получается что 15lsb *2.5 mv = 37.5 mV (если ион внутренний)
тут правильно советуют
попробуйте отсоединить ножку ADC0 (или какой у вас канал?) от схемы и припаять её к AGND, (только именно отсоединить а не ленится :-)
канал ADC менять не пробывали?

Похоже у вас плохое опорное напряжение. Попробуйте внутреннее 2,56В для начала или подключите к ноге AREF внешний опорник. Не забудьте только биты REFS1-0 поправить.

Ну и несколько замечаний по коду, что сходу бросаются в глаза.

1) Запустили ацп в режиме free run, но в главном цикле вы всё время запускаете начало преобразования. Если вы хотите single conversion, то надо дождаться конца преобразования.

2) Есть стробы записи в регистры 1, 2, 3. А вот в регистр 4 строба записи нет, надо добавить.

3) В главном цикле используется переменная ADC_w, но она может быть испорчена в любой момент в прерывании. Примите меры.

4) Непонятна роль оператора while(ADCSRA & 0x40). Почему что-то делается, когда преобразование не закончено?

5) Зачем стоит оператор return 0 в конце программы? У вас там что, операционка стоит?

+1. Для себя после принял за правило: с переменника прямо на вход АЦП сигнал не подавать. На ОУ собрать повторитель да еще и подфильтровать немного.

Повторитель - обязательно.
Только там уровень нуля подпрыгнет, надо будет подшаманить...

Нашол я где была зарыта ошибка!
Скажу что все перепробывал, что советовали (про MUX4...MUX0 для контроля точек 0B 1.22B) - на них тоже выдавало ошибки, причем на 1.22 - непостежимого характера . Только операционик не пробовал лепить, он сути б не менял.


И так ошибка была в коде (про непрерывный режим - тоже ошибка была, но в том коде была незаметна) и в самом начале:



Изначально порт А устанавливался как входно на считывание. И при считывании 0В выдавал уровень. При удалении выделенных строк - все заработало как надо, меряет от 0...1023

Всем сноваже СПС!

поделюсь тоже соображениями, нет защиты от дребезга, 50мс думаю не помешает, также очень интересно как подведена аналоговая линия, подтяжка к + или к земле, стоит ли защитный диод, насколько развязана плата по питанию....

Дребезга тут нет, сигнал снимается с резистором в параллель которому конденсаторы.
Аналоговая земля с цифровой объеденены. Питания тоже, только питание к АЦП шло от основного через даташитовскую LC цепочку.

Для лучшей точности пробовал питать АЦП от другого источника с общей землей - полождительные результаты.