реклама на сайте
подробности

 
 
> округление
dsp85
сообщение Jul 6 2010, 18:35
Сообщение #1


Участник
*

Группа: Участник
Сообщений: 56
Регистрация: 5-06-10
Пользователь №: 57 761




Подскажите, как по-научному правильно округлять?

Вход: I/Q (12 разрядов на квадратуру)
Выход: I'/Q' (7 разрядов на квадратуру)

чувствую, что просто использовать старшие 7 неверно. как нужно учитывать при округлении младшие 5 или не нужно?

Go to the top of the page
 
+Quote Post
 
Start new topic
Ответов
jorikdima
сообщение Jul 7 2010, 10:22
Сообщение #2


тут может быть ваша реклама
*****

Группа: Свой
Сообщений: 1 164
Регистрация: 15-03-06
Из: Санкт-Петербург/CA
Пользователь №: 15 280



Цитата(dsp85 @ Jul 6 2010, 22:35) *
Подскажите, как по-научному правильно округлять?

Вход: I/Q (12 разрядов на квадратуру)
Выход: I'/Q' (7 разрядов на квадратуру)

чувствую, что просто использовать старшие 7 неверно. как нужно учитывать при округлении младшие 5 или не нужно?

надо добавить половину цены деления и отбросить младшую часть. С отрицательными числами идея таже, как сделать решайте сами.
Go to the top of the page
 
+Quote Post



Reply to this topicStart new topic
1 чел. читают эту тему (гостей: 1, скрытых пользователей: 0)
Пользователей: 0

 


RSS Текстовая версия Сейчас: 19th August 2025 - 17:06
Рейтинг@Mail.ru


Страница сгенерированна за 0.01348 секунд с 7
ELECTRONIX ©2004-2016