Цитата(Kovrov @ Feb 11 2006, 19:09)

а скольких знаков у вас калибровочное значение?
сложно сказать (3-4 десятичных знака), используется целочисленная арифметика. 14-ти битное число - коэффициент домножения. При умножении 10-ти разрядного результата АЦП на этот коэффициент - получаю 24х разрядный результат у которого старшие 9 разрядов - это нормированное значение в вольтах от 0V до 511V. В качестве опорного "эталонного" напряжения можно использовать внутренний ИОН (Mux Vbg), но предпочитаю внешний калибровочный ЦАП.