Суть вопроса-погрешность (абсолютная) +- 0.0594 задана точно при значении напряжения 10В. Допустимое значение лежит в пределах от 9.9406 до 10.0594. Вопрос- как округляется погрешность, желательна ссылка на нормативный документ. Безопасное округление до +- 0.05 - уложнит жизнь.
Группа: Участник
Сообщений: 453
Регистрация: 6-05-06
Из: РФ
Пользователь №: 16 841
Цитата(Евгений Германович @ Sep 16 2012, 18:35)
Вопрос- как округляется погрешность, желательна ссылка на нормативный документ. Безопасное округление до +- 0.05 - уложнит жизнь.
Округляются измерения, до условий погрешности. Погрешность не округляется, погрешность рассчитывается на основании измерений, относительно эталонного прибора.
Округляются измерения, до условий погрешности. Погрешность не округляется, погрешность рассчитывается на основании измерений, относительно эталонного прибора.
Вы числа внимательно рассмотрели? Погрешность в данном случае задана. Измеряется напряжение, если влазит в ворота- годен, не влазит- брак. Измеряется эталонным прибором
округление погрешности
Sep 16 2012, 12:35
