| |
|
 |
Ответов
|
|
 May 29 2007, 06:15
|
Участник
Группа: Новичок
Сообщений: 24
Регистрация: 31-05-06
Пользователь №: 17 614
|
Цитата(golovin @ May 29 2007, 11:39)  Добрый день!
Необходимо разделить число на 5, т.е. умножить на 0,2. Но я не могу получить ровно 0,2 при переводе числа в дробное по методу ATMEL (Appl. Note 201).
Погрешность которая получается не устраивает, т.к. числа, которые необходимо делить на 5 находятся в диапазоне 1..100, соответственно набегает ошибка около 35.
Есть ли какой-то выход из этой ситуации ?
Спасибо лично я бы сделал так, делимое умножал 100,а делитель оставлял как есть(5),а полученный результат был в формате z*10-2(99*100/5=1980*0,01). для работы с большими числами пользовался маленькой библиотечкой,точнее копи-пастил нужные куски (там написано сложение,вычитание,деление,умножение 32битных чисел,перевод BCD2bin и Bin2BCD всё на ассемблере)
|
|
|
|
|
|
|
|
May 29 2007, 06:20
|
Знающий
Группа: Свой
Сообщений: 709
Регистрация: 3-05-05
Пользователь №: 4 693
|
Цитата(Диm @ May 29 2007, 10:15) лично я бы сделал так, делимое умножал 100,а делитель оставлял как есть(5),а полученный результат был в формате z*10-2(99*100/5=1980*0,01). для работы с большими числами пользовался маленькой библиотечкой,точнее копи-пастил нужные куски (там написано сложение,вычитание,деление,умножение 32битных чисел,перевод BCD2bin и Bin2BCD всё на ассемблере) Не надо делитель ;О) Деление в 8-15 раз(зависит от писателя) медленнее умножения. Длиннее, больше жрёт ресурсов...Ацтой, короче.
|
|
|
|
|
|
|
|
May 29 2007, 06:25
|
Участник
Группа: Новичок
Сообщений: 24
Регистрация: 31-05-06
Пользователь №: 17 614
|
Цитата(mse @ May 29 2007, 12:20) Не надо делитель ;О) Деление в 8-15 раз(зависит от писателя) медленнее умножения. Длиннее, больше жрёт ресурсов...Ацтой, короче. не спорю!может тут надо считать десять раз в секунду,не более этого.тогда это самое простое помоему 
|
|
|
|
|
|
Сообщений в этой теме
 golovin Умножение дробных чисел May 29 2007, 05:39 mse Цитата(golovin @ May 29 2007, 09:39) Есть... May 29 2007, 06:10 golovin В App.Note как раз описана технология перевода дро... May 29 2007, 06:18 golovin К сожалению программное умножение/деление не подхо... May 29 2007, 07:43 Dog Pawlowa Цитата(golovin @ May 29 2007, 10:43) К со... May 29 2007, 07:50 mse Цитата(golovin @ May 29 2007, 11:43) К со... May 29 2007, 08:00 ae_ Цитата(golovin @ May 29 2007, 16:43) К со... May 29 2007, 08:04 golovin Т.е. любая мега сможет поделить на 5 или умножить ... May 29 2007, 08:06 mse Цитата(golovin @ May 29 2007, 12:06) Т.е.... May 29 2007, 08:18 ae_ Цитата(golovin @ May 29 2007, 17:06) Т.е.... May 29 2007, 08:21 mse Цитата(ae_ @ May 29 2007, 12:21) Результа... May 29 2007, 08:25 golovin to mse: по поводу программного и аппаратного это я... May 29 2007, 08:31 mse Цитата(golovin @ May 29 2007, 12:31) В то... May 29 2007, 08:43 ae_ Цитата(mse @ May 29 2007, 17:43) Никакой ... May 29 2007, 10:31 mse Цитата(ae_ @ May 29 2007, 14:31) У меня п... May 29 2007, 10:46 golovin А можно поподробней про число 0х3334 ? May 29 2007, 08:50 mse Цитата(golovin @ May 29 2007, 12:50) А мо... May 29 2007, 08:56 golovin to mse: БОЛЬШОЕ спасибо May 29 2007, 09:44 defunct Есть такой интересный алгоритм деления на 10:
Для... May 29 2007, 15:55 m16 Цитата(defunct @ May 29 2007, 19:55) Есть... May 30 2007, 08:56 golovin Спасибо за интересные мысли ! May 30 2007, 11:07 umup Вот, может подойдет - для 8 и 16 битных чисел. Пер... Jun 1 2007, 02:17
1 чел. читают эту тему (гостей: 1, скрытых пользователей: 0)
Пользователей: 0
|
|
|
Умножение дробных чисел
