вход АЦП (10 бит) подаю напряжение (порядка 0,02 вольт) в программе код преобразую в напряжение (VREF*val/1024, где VREF = 3.3) а на индикаторе кажет 0,003 вольта! то есть получается офигенное смешение результата! и так на всей шкале, что делать ума не приложу. Посоветуйте пжлста! Мне нужно добиться точности показаний порядка 0,001 вольта или максимально близко к этому.

Для понимания этой "проблемы" нужно уметь делить 3.3V на 1024.
Разделили? Какое число получили? Подумали?
Это будет к вопросу о "дискретности".

Дальше хуже - надо читать datasheet на LPC21xx и пытаться понять какие у него "погрешности" и
"нелинейности".

Дальше еще хуже - надо читать много разной документации и выбирать подходящий внешний ADC,
заодно с источником опорного напряжения...

3.3 на 1024 = 0,00322...В получается 1 дискрет.
В юзермануале написано что offset error не более 6мВ, а INL и того меньше. А у меня в итоге получается раза в 2-3 больше!
с ИОНом все нормально, а зачем внешний АЦП непонятно!

Уржался
Особенно над этим:

И как это соотносится с желаемым числом
0.001?

Просто "без комментариев" 6mv это как по Вашему в виде нуля с запятыми пишется?
По моему это 0.006. А Вы хотите 0.001. И не довольны результатом 0.003??
Давайте посмотрим в документ:

Милливольтов, естественно здесь и близко нет, а оffset error нормируется на уровне 3LSB.
Сможете умножить 0,00322 на 3?

В итоге у Вас получается в 3 (три) раза меньше гарантированного производителем. Какие претензии?

В смысле вместо него подключили 3.3V питание периферии контроллера. Угадал :-(

Для приближения к желаемой Вами погрешности измерения, естественно. В противном случае погрешность в десяки раз будет более желаемой.

Может я слишком деревянный, но очень хочется разобраться в таких простых для вас, профессионалов, вещах.
1LSB = 0.00322V
пусть на вход АЦП подано напряжение 0,0259V, а отображается 0,003V. Разность получается 0,0229V, что наверное будет составлять 0,0229/0,00322 > 7 LSB. Правильно???

Чтобы всё было пучком нужно хорошо разводить аналоговую землю и аналоговое же питание проца. Ну и подключать хорошЫй опорник (на 3.3 не видал), а не просто питание.

Так или иначе, на точность лучше 10 мВ не расчитывайте.

Извините не заметил 0.02 - все согласно Штирлицу последняя цифра 0.001 перекрыла :-(.
По 7LSB GetSmart ответил. Все так и есть. Могу только еще "спросить" - а какое у Вас выходное сопротивление источника сигнала?
По личному опыту - заявленные параметры LPC
обеспечивает, естественно при условии внешнего профессионально сделанного внешнего окружения.