AD5245 (256 позиций, номинал 100к) подключен к источнику стабильного тока и управляется от ATmega32 по шине I2C.
Потенциометр - в режиме реостата, вывод A подключен к источнику тока, выводы W и B заземлены.
Измерения показали:
D - зашиваемый код (десятичное значение), R - вычисленное значение сопротивления, Ом

D = 255 R = 77
D = 254 R = 444
D = 253 R = 807
.
.
.
D = 2 R = 92 592
D = 1 R = 92 963
D = 0 R = 94 444

Вопросы:
1. Не могу понять, почему крайние значения не соотв ожидаемому шагу: Rstep = 100000/256=390.625 Ом и даже не соотв расчетам по приведенным в даташите формулам.
2. Как правильно учесть сопротивление випера и как учесть его изменение в данном включении в зависимости от загружаемого кода?
3. Как понять рисунок 36 для расчета сопротивления на крайних значениях?
4. Вроде понятно, что в режиме реостата с заземленным випером эти формулы уже неверны.
5. Есть ли основания впредь не заземлять один из крайних выводов и оставлять его свободным?

Может, всё дело в разбросах значений? В даташите, например, даже для нормальных условий указано: Nominal Resistor Tolerance: +/- 30% и Wiper Resistance: от 50 до 120 ом.

ИМХО, дело не в этом. Это ведь разброс самого значения номинала от ИС к ИС. А вот шаг должен укладываться хотя бы приблизительно.
Далее на рисунке 36 вроде есть очепятка-недоделка:

Нажмите для просмотра прикрепленного файла

Если принять такую коррекцию, то формулы даташита в принципе работают, хотя как они считали значения в таблицах - мне непонятно... Например, как получено значение 10 060 Ом в таблице 7?

В принципе объяснить погрешность при высоких сопротивлениях (вблизи 100к при D= 0,1,2) еще возможно - обычный тестер замеряет напряжение в этих точках с большой погрешностью.
Но объяснить R = 77 Ом при D = 255 я что-то не могу...
Ведь должно быть так:
D = 255 R = 444
D = 254 R = 807
Можно было бы грешить на софт, но ни при каких условиях не должно быть возможно получить R = 77 Ом при D = 255, т. е. величина много меньше шага Rstep = 100000/256=390.625 Ом ....

Дело, видимо, в том, что в даташите дан пример рассчёта сопротивления для номинала резистора 10к. А у автора 100-килоомный вариант.

Речь и о том, что даже для 10к даташитовского варианта некоторые расчеты не сходятся. Откуда взялось 10 060 Ом в таблице 7 совершенно непонятно...

Отредактировал стр. 13 даташита так, как ее понимаю.

1. Назначение ключа S257 непонятно.
2. Измерения в моей схеме в режиме реостата (пины W и B соединены и заземлены) показывают, что формула (2) даташита должна выглядеть несколько иначе (см. вложеннный "исправленный" файл).

Где же ошибка? Возможно как то влияет соединение пинов W и B? Но как?