Цитата(aleksey_g @ Feb 28 2007, 19:19)

...Если полностью доверять своему вольтметру, и если добились не прыгания
показаний, и если неточность измерений линейна (заметьте сколько если!)
то результат перед выводом на телевизор апроксимируется так: Y=aX+b
Линейной формулой компенсировать нелинейность ?
Можно, конечно, но даст результат только на небольшом участке.
Для компенсации нелинейности и формула должна быть нелинейной.
Например, такой: Y=aX+bXX+C (полином, кстати

)
Или такой: Y=aX+1/bX+c.
Для выбора формулы лучше понять причину нелинейности, но я уже повторяюсь, кажется....
Когда передирали один голландский прибор, с физикой не разбирались, сняли характеристику и аппроксимировали полиномом 4-го порядка : Y=aX+bXX+cXXX+dXXXX+e. Результат был неплохим
Уходя, оставьте свет...