Цитата(Kovrov @ Feb 10 2006, 19:06)

а почему накопления погрешности?
у меня цап тоже калиброван уже на серьезной аппаратуре
и по 256 значениям..
а что вы можете предложить в свою очередь?
Для использования встроенного АЦП (нелинейность 4-6 lsb при разрешении 10 бит) хватит 2 или 3 точки калибровки (по 50...100 измерений в каждой точке и усреднение) и апроксимация кривой 2-го порядка по методу наименьших квадратов. В этом случае, возможно, получится нелинейность на уровне +/- 2 lsb. Точнее - врядли возможно изза влияния дискретизации.
Или второй вариант - подключить внешний АЦП на 12 разрядов. Его ресурсов должно хватить с избытком.