|
Не работает правильно, вычисление float в Keil, Деление на 10 |
|
|
|
 |
Ответов
|
Feb 14 2017, 06:40
|

Гуру
     
Группа: Модераторы
Сообщений: 8 455
Регистрация: 15-05-06
Из: Рига, Латвия
Пользователь №: 17 095

|
QUOTE (_Алекс @ Feb 14 2017, 07:21)  Понято, что происходит потеря точности. или число 25.1 невозможно представить типом float с принятым у кейла размером мантиссы. Проверьте просто x = 25.1; не слушайте psL, он продемострировал незнание основ языка.
--------------------
На любой вопрос даю любой ответ"Write code that is guaranteed to work, not code that doesn’t seem to break" ( C++ FAQ)
|
|
|
|
|
Feb 14 2017, 09:11
|
Знающий
   
Группа: Свой
Сообщений: 526
Регистрация: 5-08-05
Пользователь №: 7 390

|
Цитата(Сергей Борщ @ Feb 14 2017, 09:40)  или число 25.1 невозможно представить типом float с принятым у кейла размером мантиссы. Проверьте просто x = 25.1; не слушайте Борща с его принятым размером мантисы. Keil использует IEEE-754: http://www.keil.com/support/man/docs/armli...58938949149.htmкоторого достаточно для представления 25.1, можно проверить, например, здесь: https://www.h-schmidt.net/FloatConverter/
|
|
|
|
|
Feb 14 2017, 10:00
|

Гуру
     
Группа: Модераторы
Сообщений: 8 455
Регистрация: 15-05-06
Из: Рига, Латвия
Пользователь №: 17 095

|
QUOTE (psL @ Feb 14 2017, 11:11)  Вы бы хоть немного ознакомились с тем, на что ссылаетесь (хотя бы по википедии): QUOTE Возможные конечные значения, которые могут быть представлены в формате, определяются основанием b, количеством цифр в мантиссе (с точностью р) и максимальным значением emax: И лично вам в коллекцию: неявное приведение типов
--------------------
На любой вопрос даю любой ответ"Write code that is guaranteed to work, not code that doesn’t seem to break" ( C++ FAQ)
|
|
|
|
Сообщений в этой теме
_Алекс Не работает правильно, вычисление float в Keil Feb 14 2017, 05:21 psL попробуйте поделить на 10.0
или умножить на 0.1f Feb 14 2017, 05:48    Сергей Борщ QUOTE (psL @ Feb 14 2017, 14:03) В чем я ... Feb 14 2017, 14:19  ar__systems Цитата(psL @ Feb 14 2017, 04:11) не слуша... Feb 14 2017, 16:24 ar__systems Цитата(Сергей Борщ @ Feb 14 2017, 01:40) ... Feb 14 2017, 16:06 k155la3 Цитата(_Алекс @ Feb 14 2017, 09:21) Код о... Feb 14 2017, 06:49 Ruslan1 Цитата(_Алекс @ Feb 14 2017, 07:21) При д... Feb 14 2017, 08:10 _Алекс Ерунда, похоже, с Keil.
double Round (double x... Feb 14 2017, 09:17 HardEgor Цитата(_Алекс @ Feb 14 2017, 12:21) x = 4... Feb 14 2017, 09:25 _Алекс Цитата(HardEgor @ Feb 14 2017, 13:25) А о... Feb 14 2017, 09:32 Lagman вот есть еще калькулятор который показывает и 25.1... Feb 14 2017, 15:14 conan В двоичном формате с плавающей запятой точно предс... Feb 14 2017, 16:10
1 чел. читают эту тему (гостей: 1, скрытых пользователей: 0)
Пользователей: 0
|
|
|