Надо построить распределение, как это делают все производители. Приличные.

Чем уже полоса, тем меньше шума.

Кто сказал? Постоянное напряжение редко кого интересует. Топикстартер, кстати, упомянул усилитель сигнала.

Можно представить, как ФНЧ, дополняющий тот, что на входе. + в общий вклад АЧХ.


Среднеквадратическое отклонение ищите, а не максимальное.

у меня медленно меняющийся сигнал, контролю близкое к постоянному входное напряжение, соответственно тестирую вначале чистый постоянный уровень и уже тут непонятный разброс и большая потеря разрядности

Еще могут быть случайные нерегулярные выбросы из-за внешних влияний (типа всплеск солнечного ветра накрыл или по сети 220В, что вокруг вас в помещении, прошла мощная помеха и навелась на вашу схему).
В математике такие вещи называются "промах". Хорошо фильтруются медианным фильтром.
Т.е. сначала скользящий медианный фильтр, а уже потом усреднение.

А вообще, на встроенном в МК АЦП получить максимальную заявленную разрядность почти невозможно.
Всегда 1-2 разряда шумят...

Усилитель сигнала сделайте с малой полосой, как уже говорил.
Время выборки сделайте максимально большим.
Частоту выборок сделайте максимально большой. Дальше в цифровом фильтре используете.
Медианный фильтр отбросит выбросы (промахи, как Baser написал).
Цифровой фильтр НЧ может дать вам массу дополнительных разрядов.
Естественно, результирующая полоса не должна быть меньше необходимой для измерения изменяющегося сигнала. В вашем случае - очень низкой.

1-2 разряда шума устроят, но на батареечном питания и измерении напряжения батарейки при 1 000 000 выборок я бы хотел видеть 1-2 разряда шума) надо гистограмму строить и смотреть, нормальное ли распределение и какой разброс.

сейчас у меня никакого усилителя нет, я снимаю сигнал с батарейки, плюс на входе ацп делитель напряжения 0.9 и конденсатор на 10нФ

вот распределение. одной половины колокола почему-то нет.

Фильтровать надо базар.
Фильтрация- наше все.

Качество и выбор метода зависят от соотношения частоты нужных итоговых измерений и частоты получения данных от АЦП.
Хорошая программная фильтрация может значительно нивелировать ошибки, допущенные при разработке железа. Так как программные ресурсы дешевеют значительно быстрее чем железо, а хороших смехотехников все меньше и они все дороже - этот путь очень перспективный. В железе по минимуму нужно иметь фильтр по Котельникову.

Сначала определите что за шумы, и только после этого начинайте думать как перестать их замечать.

Перво-наперво: сохраните массив сырых данных Вашего АЦП и доставьте его в компьютер.
И уже в компьютере займитесь экспериментами: какие методы фильтрации дадут нужный результат.
Заодно и проанализируйте. Например, разложение в Фурье может дать интересную информацию о шумах и показать, действительно ли Вы со случайным шумом боретесь.

Софт- даже Екселя хватит (хотя Фурье в Екселе - это на любителя), сильно лучше- Матлаб.
Кстати, Матлаб хорош еще тем, что написанный в нем си-подобный код легко переносится в МК.

а, распределение кривое, потому что я переменные переполнял

Вот что-то у Вас не так...
Вашу безобразную картинку сожмите или уберите совсем.


А если у Вас нечто вроде осциллографа? И скорость нужна максимальная...

осциллограф на 600 MHz 10Gs/s обычными щупами дает 100mV шума, а подпаянный коаксиальный провод - 20 mV. это 4 мои шумных разряда, мой осцилл, либо мои методы измерения мне не позволяют отловить что там реально происходит. единственное что смог - снизить шум на осцилле, подпаяв провод к месту соединения и оплетку сразу на землю.

Ну, тогда битва идет на уровне железа, раз нет резерва в вычислизме. Природу не обмануть, фильтровать все равно приходится.
нет возможности программно- фильтровать в электронике. Нет возможности в электронике- демпфировать саму физическую величину на уровне самого сенсора. Фильтрация всегда нужна

Ну у ТС, мне кажется, все сильно проще- ему нужно только грамотно подойти к вопросу и обнаружить источник помех, там явно не белый шум. А самый простой и дубовый метод обнаружения- матобработка сырых данных на компьютере.

..а вы поставьте на осцилографе AC вход и 50 ом , у вас шумы ещё упадут наверное. Ещё можно в настройках осцилографа полосу пропускания обузить - ещё шумы упадут . Только какой со всего этого прок?