реклама на сайте
подробности

 
 
> IAR 4.40A, Ошибка в вычислении с плвающей зпт
mungo
сообщение Oct 27 2016, 10:09
Сообщение #1


Участник
*

Группа: Участник
Сообщений: 63
Регистрация: 21-09-07
Из: СССР
Пользователь №: 30 719



Приветствую, господа!
Есть типа код:
CODE
double x,x1;
x=1.09; // На самом деле результат вычилений 1.[09]
x1=.09; // аналогично, 0.[09]
x-=x1; // ожидаемо, 1
sprintf(s,"%g",x-1.0); // Вот и проблема! -1.11022е-16

У кого есть идеи, как побороть? Пробовал в другом компилере, результат, ессно, 0. Более того, эти же данные (в сыром виде) передаются на комп, там по той же формуле из тех же данных идет вычисление, и получается 0.

Компилер менять не тема - много переносить, и слишком много использовано особенностей данной версии.

Исходные данные: IAR 4.40A (4.42A), AT91SAM7X256 (ARM7), CPP.


--------------------
Сомневаюсь, и вам советую!
Go to the top of the page
 
+Quote Post
 
Start new topic
Ответов
mungo
сообщение Oct 27 2016, 11:07
Сообщение #2


Участник
*

Группа: Участник
Сообщений: 63
Регистрация: 21-09-07
Из: СССР
Пользователь №: 30 719



ББ - Большой Брат. Комп то есть.
Ок, я был не прав, дьявол кроется в деталях. Похоже, что хардварный калькулятор в ББ работает иначе, как впрочем и софтварный в IAR 7.5. То есть для данной точности в 4.40 он то, что считает слишком малым числом, оставляет хвостом, а остальные его отбрасывают. Поэтому получаем не ровно 1, а 1.[куча нолей]9. Вот оттуда и минус...
Кто же знал про такие особенности...


--------------------
Сомневаюсь, и вам советую!
Go to the top of the page
 
+Quote Post
scifi
сообщение Oct 27 2016, 11:10
Сообщение #3


Гуру
******

Группа: Свой
Сообщений: 3 020
Регистрация: 7-02-07
Пользователь №: 25 136



Цитата(mungo @ Oct 27 2016, 14:07) *
Кто же знал про такие особенности...

Оч. многие знают. Теперь вы тоже beer.gif
Go to the top of the page
 
+Quote Post



Reply to this topicStart new topic
1 чел. читают эту тему (гостей: 1, скрытых пользователей: 0)
Пользователей: 0

 


RSS Текстовая версия Сейчас: 26th June 2025 - 12:36
Рейтинг@Mail.ru


Страница сгенерированна за 0.01373 секунд с 7
ELECTRONIX ©2004-2016