По моему, у ТС присутствует путаница в понятиях и определениях. Для выбраковки изделий задается не погрешность измерений, а допустимый диапазон значений контролируемого параметра, в пределах которого изделие считается годным. Здесь речь идет о реальных (истинных) значениях параметра, а не о результатах его измерения. Любой измеритель имеет погрешность измерения. Поэтому задача стоит в том, чтобы, по заданным допускам на реальное (истинное) значение контролируемого параметра, установить разрешенный диапазон для его измеренных контрольных значений, с учетом известной погрешности измерителя, самой методики измерения и допустимой вероятности пропуска брака.

Попробую для Вас подоступнее.
10.007(или8 наплевать(временно)) , чтобы измерить данное число вольтметр должен иметь минимум шесть знаков.
10.0079 минимум 7
10.00799 минимум 8
Поймите, теоретически и, в данном случае практически, можно попасть в ситуацию, при которой будет невозможно, или очень сложно, произвести отбраковку, поверку при длинной погрешности. А если в результате расчета погрешности будем иметь бесконечную дробь?
Что, перейдем на целочисленную арифметику???
Я Вам писал, что видел МИ по статистике.
МНе показалось или Вы попытались нахамить?


ЩАСС.
Как легко и просто объяснять не понимая проблему. В документе приведена формула 0.05% и тд и максимальное значение 29.9 хоть с миллиом нулей на конце. Рассчетное значение погрешности в точке 10В 0.00799.
Измерить напряжение с 7 значащими цифрами физически невозможно из-за нестабильности показаний поверяемого прибора. Даже при условии абсолютного измерителя. Или суперабсолютного.


1/3 а не 2 Я не могу выбрать - поверяемый прибор не позволяет. Проблема не в точности а в разрешении. Кстати,вопрос к Вам: а если погрешность бесконечная дробь? Стреляться? Садиться?

Пока не осознАете разницу между диапазоном допустимых значений параметра и погрешностью измерений параметра - это проблема
останется для Вас не разрешима...

Сообщение отредактировал @Ark - Sep 19 2012, 12:05

Надеюсь, Вы не будете отказываться от авторства:

?
Представьте, что Ваш прибор имеет предел 29000 мВ, а устройство выдаёт 10000 мВ. Числа целые. Стало легче?

Угу. Вы на него один раз взглянули, и оно Вам чем-то не понравилось. Из этого нужно сделать какие-то выводы?

Будьте добры привести цитату с места попытки нахамления - попытаюсь объяснить.

Запятые, м, к, мк и т.д. - не более чем условности, принятые для удобства восприятия или изложения. Будь у человека три пальца на одной руке и четыре на другой, или восемь щупалец, вероятно, в повседневной практике мы бы использовали счисление с более другим основанием, но не с более другими математическими законами.
Правила работы с погрешностями (интересно, Вам удалось добраться до п.4.10? и чем изложенное там Вас не устроило?) - точно такие же математически обоснованные условности.
Но если Вам показалось, что я покушаюсь на Ваше право требовать специальные законы для своего специального случая, то Вам показалось.

соотношение 1\3 используется чаще всего, а допускается выбирать соотношение от 1\2 до 1\10
если вопрос "не в точности", тогда к чему тогда базар о погрешности ? большое разрешение - это не всегда большая точность
покажите примеры использования измерений, где погрешность это дробь?