В наследство досталось много кода, написанного уволившимся программистом. Ищу ошибки, разбираюсь. Специфика программы в том, что код был изначально написан под TMS с фиксированной точкой, затем был перенесем на ARM7, где часть операций стала производиться с вещественными числами. Есть множество приведений типов.
Нашел баг.

Когда разность получалась отрицательной, результат был неверный.
Корректно ли делать приведение типов так?

Или нужно сначала разность привести к SINT64, а затем уже к REAL64?

Сообщение отредактировал Grizzzly - Feb 28 2014, 18:45

>> Power = (REAL64)p1-(REAL64)p2;
так верно

Изначально неверно использовать UINT для арифметических операций со знаком. Экономия одного бита при 64 разрядах вряд ли оправдана.

Спасибо!
У меня выходило, что этот вариант не всегда прокатывал.
В программе p1, p2 могут принимать значения в диапазоне от 50000 до нескольких десятков миллионов. Тут такое приведение типов срабатывало.
При тестировании взял такие значения: p1 = 800000000000000000, p2 = 800000000000000001. Тогда работает вариант
, а в первом случае ошибка.
Теперь понял, что так получалось из-за того, что в примере было больше 16 значащих десятичных цифр.


Согласен. Что досталось, с тем и пришлось работать...

Чтобы не терять точность в подобных случаях можно например так:

Фактически нужно 65-битную промежуточную переменную, и результат (p1>=p2) как раз хранит дополнительный бит.

Спасибо.