Цитата(messenger @ Jan 1 2016, 23:21)

поясните пожалуйста для начинающих, не могу въехать
ну величина 1 LSB ацп это 5.0В/(2^23)/64 = 9.31322574615479 нановольт (кстати, двойку не потеряли на знаковости? то есть весь входной диапазон АЦП +-5В=10В или 5В?)
а число 149/16 == это 9.3125 (отличается от 9.31322574615479 лишь на 0.007%), то есть умножив код на 149 целочисленно (32 разряда не переполнятся) и поделив на 16, (сдвинув на 4), получится целочисленный результат, но в нановольтах.
про десяток нановольт в прошлом сообщении - это я по запятой в калькуляторе промазал, в 10 раз