реклама на сайте
подробности

 
 
> Сравнение точности float и fixed point
Grizzzly
сообщение Jun 19 2014, 14:15
Сообщение #1


Знающий
****

Группа: Свой
Сообщений: 565
Регистрация: 22-02-13
Пользователь №: 75 748



Есть алгоритм, который реализован на ARM с плавающей запятой и на TMS с фиксированной запятой. Как правильно оценить погрешность представления чисел во float и Q0.18? Правильно ли я понимаю, что float точнее, поскольку у него 7 значащих десятичных знаков после запятой, а для Q0.18 только 5?
Go to the top of the page
 
+Quote Post
 
Start new topic
Ответов
Elex_MD
сообщение Jun 19 2014, 16:47
Сообщение #2


Участник
*

Группа: Участник
Сообщений: 22
Регистрация: 27-04-11
Пользователь №: 64 659



Цитата(Grizzzly @ Jun 19 2014, 18:15) *
для Q0.18 только 5?

почему 5? разве Q0.18 не подразумевает 0 разрядов для целой части и 18 разрядов для дробной.Кстати, какой-то весьма странный формат.
Go to the top of the page
 
+Quote Post



Reply to this topicStart new topic
1 чел. читают эту тему (гостей: 1, скрытых пользователей: 0)
Пользователей: 0

 


RSS Текстовая версия Сейчас: 28th July 2025 - 14:10
Рейтинг@Mail.ru


Страница сгенерированна за 0.01364 секунд с 7
ELECTRONIX ©2004-2016