|
IAR 4.40A, Ошибка в вычислении с плвающей зпт |
|
|
|
Oct 27 2016, 10:09
|
Участник

Группа: Участник
Сообщений: 63
Регистрация: 21-09-07
Из: СССР
Пользователь №: 30 719

|
Приветствую, господа! Есть типа код: CODE double x,x1; x=1.09; // На самом деле результат вычилений 1.[09] x1=.09; // аналогично, 0.[09] x-=x1; // ожидаемо, 1 sprintf(s,"%g",x-1.0); // Вот и проблема! -1.11022е-16 У кого есть идеи, как побороть? Пробовал в другом компилере, результат, ессно, 0. Более того, эти же данные (в сыром виде) передаются на комп, там по той же формуле из тех же данных идет вычисление, и получается 0. Компилер менять не тема - много переносить, и слишком много использовано особенностей данной версии. Исходные данные: IAR 4.40A (4.42A), AT91SAM7X256 (ARM7), CPP.
--------------------
Сомневаюсь, и вам советую!
|
|
|
|
|
 |
Ответов
|
Oct 27 2016, 10:38
|
Участник

Группа: Участник
Сообщений: 63
Регистрация: 21-09-07
Из: СССР
Пользователь №: 30 719

|
Код double x,x1; x=1092/1001; // Оба числа целые и результаты измерения входного сигнала x1=1/11; // Константы, указывающие на приращение по отношению измерения 1092 x-=x1; // Исключаем из измерения результат приращения измерения, являющийся погрешностью sprintf(s,"%.14g",x-1.0); // здесь выводим абсолютную погрешность измерений, которая не должна быть больше 1 (-1) На каждую строку специально делал вывод значений, всё вычислялось верно. А вот когда делаю -1, то видим -1.11022е-16. Вроде куда уж подробнее...
--------------------
Сомневаюсь, и вам советую!
|
|
|
|
|
Oct 27 2016, 10:50
|
Участник

Группа: Участник
Сообщений: 63
Регистрация: 21-09-07
Из: СССР
Пользователь №: 30 719

|
Цитата(scifi @ Oct 27 2016, 13:46)  И что? Где проблема? Ожидаемая погрешность, если она отлична от нуля, будет гораздо больше. Следовательно, вот эти малые числа порядка 10^-16 следует считать строго нулём для ваших целей. Короче, ограничивайте точность при выводе результата, как вам и советовали выше. Чуть выше видно, что она есть. Более того, как объяснить, что с теми же данными по таким же формулам ББ считает верно?
--------------------
Сомневаюсь, и вам советую!
|
|
|
|
Сообщений в этой теме
mungo IAR 4.40A Oct 27 2016, 10:09 Непомнящий Евгений Ну а собственно что вас удивляет? Произвольная дес... Oct 27 2016, 10:17 mungo "%.14g"? Не помогает.
Здесь идет вычисле... Oct 27 2016, 10:25  scifi Цитата(mungo @ Oct 27 2016, 13:25) Здесь ... Oct 27 2016, 10:28   scifi Цитата(mungo @ Oct 27 2016, 13:50) Чуть в... Oct 27 2016, 10:53   scifi Цитата(mungo @ Oct 27 2016, 13:50) Чуть в... Oct 27 2016, 10:59 Непомнящий Евгений Цитата(mungo @ Oct 27 2016, 13:38) Кодdou... Oct 27 2016, 10:59 mungo ББ - Большой Брат. Комп то есть.
Ок, я был не прав... Oct 27 2016, 11:07 scifi Цитата(mungo @ Oct 27 2016, 14:07) Кто же... Oct 27 2016, 11:10
1 чел. читают эту тему (гостей: 1, скрытых пользователей: 0)
Пользователей: 0
|
|
|