Цитата(Herz @ Jul 19 2009, 16:18)

Может, всё дело в разбросах значений? В даташите, например, даже для нормальных условий указано: Nominal Resistor Tolerance: +/- 30% и Wiper Resistance: от 50 до 120 ом.
ИМХО, дело не в этом. Это ведь разброс самого значения номинала от ИС к ИС. А вот шаг должен укладываться хотя бы приблизительно.
Далее на рисунке 36 вроде есть очепятка-недоделка:
Если принять такую коррекцию, то формулы даташита в принципе работают, хотя как они считали значения в таблицах - мне непонятно... Например, как получено значение 10 060 Ом в таблице 7?
В принципе объяснить погрешность при высоких сопротивлениях (вблизи 100к при D= 0,1,2) еще возможно - обычный тестер замеряет напряжение в этих точках с большой погрешностью.
Но объяснить R = 77 Ом при D = 255 я что-то не могу...
Ведь должно быть так:
D = 255 R = 444
D = 254 R = 807
Можно было бы грешить на софт, но ни при каких условиях не должно быть возможно получить R = 77 Ом при D = 255, т. е. величина много меньше шага Rstep = 100000/256=390.625 Ом ....