Имеем вычисление по простейшей формуле F=A*B/C. A, B, C имеют тип long int, F - long double. Строка F=(((long double)(А))*B )/С; при А=65535, В=2500000, С=5000002 даёт результат, совпадающий с виндовым калькулятором только до 9 знака. Где я теряю точность? Компилятор Микрочип С30, мк PIC24H.
Сообщение отредактировал shkal - Aug 15 2011, 13:18
|