Здравствуйте.
Господа подскажите баг это компилятора или нет.? Если это норма то как повысить точность вычислений?
Компилятор CodeVision, Atmega 168
float A=417.60;
float B=0.01;
При просмотре содержимого переменных через AvrStudio имею А=417.60001; В=0.0099999998;
А если числа будут например 17.60 или 0.1 то все гуд.
Для меня эти несоответствия имеют катастрофические последствия. т.к. при дальнейшей обработке погрешность результата
резко возрастает. Обнаружил сие во время реальной работы софта на мк.
точность вычислений на Атмега
Aug 18 2014, 18:09
