|
|
  |
Сравнение точности float и fixed point |
|
|
|
Jun 19 2014, 16:47
|
Участник

Группа: Участник
Сообщений: 22
Регистрация: 27-04-11
Пользователь №: 64 659

|
Цитата(Grizzzly @ Jun 19 2014, 18:15)  для Q0.18 только 5? почему 5? разве Q0.18 не подразумевает 0 разрядов для целой части и 18 разрядов для дробной.Кстати, какой-то весьма странный формат.
|
|
|
|
|
Jun 20 2014, 05:25
|
Участник

Группа: Участник
Сообщений: 55
Регистрация: 13-09-12
Пользователь №: 73 530

|
Да, точность меньше. В IEEE754 на мантиссу отводится 23 (вроде?) бита, а тут 18, кроме того у плавающей точки динамический диапазон больше. Влияет ли это на вычисления? Неизвестно. Нужно брать подозрительные арифметические операции алгоритма и тщательно проверять на возникновение переполнения/ограничения при заданных входных данных. Если влияет, то можно отвести под дробную часть больше битов, Q0.31 например, или еще больше.
Сообщение отредактировал menzoda - Jun 20 2014, 10:31
|
|
|
|
|
Jun 20 2014, 10:42
|
Участник

Группа: Участник
Сообщений: 55
Регистрация: 13-09-12
Пользователь №: 73 530

|
Вообще, в Simulink (это который с Matlab'ом вместе идет) есть такая штука, как автоматический подбор нужных форматов фиксточки. Рисуем алгоритм, задаем для блоков предельные входные значения, ???, профит! Он сам подбирает нужные форматы и при необходимости переводит из одного в другой. Однако, как и все остальное в Simulink, эта штука имеет очень корявый интерфейс, я так и не разобрался как заставить ее работать.
|
|
|
|
|
  |
1 чел. читают эту тему (гостей: 1, скрытых пользователей: 0)
Пользователей: 0
|
|
|