IAR 4.40A, Ошибка в вычислении с плвающей зпт Опции

[mungo]

Приветствую, господа!
Есть типа код:

CODE

double x,x1;
x=1.09; // На самом деле результат вычилений 1.[09]
x1=.09; // аналогично, 0.[09]
x-=x1; // ожидаемо, 1
sprintf(s,"%g",x-1.0); // Вот и проблема! -1.11022е-16

У кого есть идеи, как побороть? Пробовал в другом компилере, результат, ессно, 0. Более того, эти же данные (в сыром виде) передаются на комп, там по той же формуле из тех же данных идет вычисление, и получается 0.

Компилер менять не тема - много переносить, и слишком много использовано особенностей данной версии.

Исходные данные: IAR 4.40A (4.42A), AT91SAM7X256 (ARM7), CPP.

[Непомнящий Евген...]

Ну а собственно что вас удивляет? Произвольная десятичная дробь в двоичном виде непредставима, отсюда все эти проблемы.

Код

x=1.09; // На самом деле результат вычилений 1.[09]
x1=.09; // аналогично, 0.[09]
x-=x1; //[b] это ожидаемо не равно 1[/b]

Как вариант - ограничьте точность при выводе - по идее должно помочь ("%.2g" если я правильно помню)

[mungo]

"%.14g"? Не помогает.
Здесь идет вычисление погрешности измерений. Нужна точность, которая является никакой, если брать 2 знака.

Сообщение отредактировал IgorKossak - Oct 27 2016, 19:09

Причина редактирования: бездумное цитирование