Да, уж... Обнаружились абсолютно непонятные грабли. Опишу ниже.
Итак, контроллер ATtiny25, 5В питание, 1Мгц от внутреннего RC (с предделением на 8), АЦП - дифференциальный канал, 125кГц, MUX3...0 = 0111, усиление 20, (+)ADC2, (-)ADC3. Выбран биполярный режим (BIN = 1), оба входа подключены непосредственно к земле. При внутреннем опорном 2,56В показывает +2...3, что соответствует приблизительно +2,5...3,8мВ смещения. При опорном 1,1В показывает +5...7, что соответствует +2,7...3,8мВ смещения. Вроде как вполне согласуется для разых опорных.
Было бы неплохо учесть это смещение. Для этого есть возможность - MUX3...0 = 0101, оба входа усилителя внутри контроллера коммутируются на ADC2. Т.е. таким образом можно компенсировать смещение при измерении, вычитая это значение. Хорошо, выбираем MUX = 0101, смотрим отсчеты и... офигеваем. Вместо положенных +5...7 при 1,1В опоры имеем -29...35, при 2,56В опоры получаем соответственно -11...12. Совершенная чертовщина.
Во избежание лишних вопросов - пуллапов нет, утечек на плате нет, при коммутации каналов - дополнительные задержки 0,1 сек вставлены, без разницы, как определяется завершение преобразования, то ли со sleep и прерыванием, то ли по опросу ADIF, все равно грабли одни и те же.
Мало того, если выбираю усиление 1x, (MUX = 0110) и (MUX = 0100), показывает уже смещение -11 и -17 для 2,56В, -23 и -31 для 1,1В соответственно.
Пробовал давать на оба соединенных вместе входа через делитель положительное смещение порядка 0,5В для всех вышеприведенных ситуаций - картина совершенно не меняется.
Вот такие пироги...

PS: Перепаял контроллер, поставил другой экземпляр. Цифры несколько поменялись, но все равно фигня. Для 1,1В опоры замкнутые снаружи входы дают смещение +11...13, замкнутые внутри контроллера дают -19...23. Ерунда...
Может кто даст подсказку, почему АЦП так себя ведет, возможно есть моя ошибка, в чем она заключается?