Цитата(MixEr @ Jul 28 2006, 12:38)

3.3 на 1024 = 0,00322...В получается 1 дискрет.
И как это соотносится с желаемым числом
0.001?
Цитата
В юзермануале написано что offset error не более 6мВ, а INL и того меньше.
Просто "без комментариев" 6mv это как по Вашему в виде нуля с запятыми пишется?
По моему это 0.006. А Вы хотите 0.001. И не довольны результатом 0.003??
Давайте посмотрим в документ:
Код
ED differential linearity
error [1] [2] [3]
- - ±1 LSB
EL(adj) integral non-linearity [1] [4]- - ±2 LSB
EO offset error [1] [5]- - ±3 LSB
EG gain error [1] [6]- - ±0.5 %
ET absolute error [1] [7]- - ±4 LSB
Милливольтов, естественно здесь и близко нет, а оffset error нормируется на уровне 3LSB.
Сможете умножить 0,00322 на 3?
Цитата
А у меня в итоге получается раза в 2-3 больше!
В итоге у Вас получается в 3 (три) раза меньше гарантированного производителем. Какие претензии?
Цитата
с ИОНом все нормально
В смысле вместо него подключили 3.3V питание периферии контроллера. Угадал :-(
Цитата
, а зачем внешний АЦП непонятно!
Для приближения к желаемой Вами погрешности измерения, естественно. В противном случае погрешность в десяки раз будет более желаемой.