Не работает правильно, вычисление float в Keil, Деление на 10 Опции

[_Алекс]

Код округление числа до десятых.

float x = 0;

x = 401 * 0.0625; //25.0625
x = x * 10; //250.625
x = x + 0.5; //251.125
x = floor(x); //251
x = x / 10; // Ошибка!

При делении 251 на 10, вроде должно быть 25.1, а получается 25.0999995.
Если float поменять на double, работает. Но, в маем случае очень не удобно использовать double.
Код в другой среде, работает и с float.
Понято, что происходит потеря точности.

Может есть другой способ округлить число до десятых.

[conan]

В двоичном формате с плавающей запятой точно представимы только целые числа, либо числа дробная часть которых есть сумма (отрицательных) степеней двойки.

Нужно умножать дробную часть на 2 до тех пор пока она не обнулится:
0,703125 x 2 = 1,40625 | 1
0,40625 x 2 = 0,8125 | 0
0,8125 x 2 = 1,625 | 1
0,625 x 2 = 1,25 | 1
0,25 x 2 =0,5 | 0
0,5 x 2 = 1 | 1
Т. о. 0,703125 = 0,101101(2)

0.1 сколько на 2 не умножай, дробная часть никогда не обнулится. Т. е. в двоичном виде точно не представимо

Сообщение отредактировал conan - Feb 14 2017, 16:11