реклама на сайте
подробности

 
 
> Округление результатов измерения
=AK=
сообщение Jan 19 2007, 09:19
Сообщение #1


pontificator
******

Группа: Свой
Сообщений: 3 055
Регистрация: 8-02-05
Из: страны Оз
Пользователь №: 2 483



Имеется N относительно точных измерений, скажем, в виде чисел с плавающей запятой. Необходимо "округлить" их (или, скажем, представить в виде чисел с фиксированной запятой). "Округление" надо произвести таким образом, чтобы относительное расположение результирующих точек изменилось как можно меньше. Абсолютная погрешность "окрyгления" роли не играет.

Например, возьмем 3 значения:
1.4
1.6
3.6

Обычное округление даст результат
1
2
4

Однако если я "округлю" 1.4 до 2, то результат будет
2
2
4

что гораздо точнее, поскольку "расстояние" между точками 1.4 и 1.6 равно всего 0.2, поэтомy их правильнее округлить до одного и того же значения 2, а не до 1 и 2.
Go to the top of the page
 
+Quote Post

Сообщений в этой теме
- =AK=   Округление результатов измерения   Jan 19 2007, 09:19
- - Tanya   Цитата(=AK= @ Jan 19 2007, 09:19) Имеется...   Jan 19 2007, 09:34
|- - =AK=   Цитата(Tanya @ Jan 19 2007, 16:04) Вот ес...   Jan 19 2007, 09:54
|- - NickNich   Цитата(=AK= @ Jan 19 2007, 09:54) Тогда б...   Jan 19 2007, 10:38
|- - =AK=   Цитата(NickNich @ Jan 19 2007, 17:08) А е...   Jan 19 2007, 10:57
|- - NickNich   Цитата(=AK= @ Jan 19 2007, 10:57) Выгадыв...   Jan 19 2007, 12:59
|- - =AK=   Цитата(NickNich @ Jan 19 2007, 19:29) Для...   Jan 19 2007, 13:16
|- - NickNich   Цитата(=AK= @ Jan 19 2007, 13:16) То есть...   Jan 19 2007, 13:52
|- - =AK=   Цитата(NickNich @ Jan 19 2007, 20:22) Зад...   Jan 20 2007, 03:33
|- - Tanya   Цитата(=AK= @ Jan 20 2007, 03:33) Цитата(...   Jan 20 2007, 14:26
|- - =AK=   Цитата(Tanya @ Jan 20 2007, 20:56) Алгори...   Jan 20 2007, 14:57
|- - Tanya   Цитата(=AK= @ Jan 20 2007, 14:57) Цитата(...   Jan 21 2007, 12:25
|- - =AK=   Цитата(Tanya @ Jan 21 2007, 18:55) Сводим...   Jan 23 2007, 13:37
|- - Tanya   Цитата(=AK= @ Jan 23 2007, 13:37) Спасибо...   Jan 23 2007, 14:22
- - NickNich   Цитата(=AK= @ Jan 19 2007, 09:19) Имеется...   Jan 19 2007, 09:56
|- - =AK=   Цитата(NickNich @ Jan 19 2007, 16:26) Окр...   Jan 19 2007, 10:03
|- - Tanya   Цитата(=AK= @ Jan 19 2007, 10:03) Цитата(...   Jan 19 2007, 10:36
- - InvisibleFed   В книжках по регрессионно-корреляционному анализу ...   Jan 20 2007, 10:55


Reply to this topicStart new topic
1 чел. читают эту тему (гостей: 1, скрытых пользователей: 0)
Пользователей: 0

 


RSS Текстовая версия Сейчас: 18th July 2025 - 15:08
Рейтинг@Mail.ru


Страница сгенерированна за 0.01348 секунд с 7
ELECTRONIX ©2004-2016