реклама на сайте
подробности

 
 
> Умножение дробных чисел
golovin
сообщение May 29 2007, 05:39
Сообщение #1


Участник
*

Группа: Участник
Сообщений: 37
Регистрация: 13-04-07
Пользователь №: 27 012



Добрый день!

Необходимо разделить число на 5, т.е. умножить на 0,2. Но я не могу получить ровно 0,2 при переводе числа в дробное по методу ATMEL (Appl. Note 201).

Погрешность которая получается не устраивает, т.к. числа, которые необходимо делить на 5 находятся в диапазоне 1..100, соответственно набегает ошибка около 35.

Есть ли какой-то выход из этой ситуации ?

Спасибо
Go to the top of the page
 
+Quote Post

Сообщений в этой теме
- golovin   Умножение дробных чисел   May 29 2007, 05:39
- - mse   Цитата(golovin @ May 29 2007, 09:39) Есть...   May 29 2007, 06:10
- - Диm   Цитата(golovin @ May 29 2007, 11:39) Добр...   May 29 2007, 06:15
|- - mse   Цитата(Диm @ May 29 2007, 10:15) лично я ...   May 29 2007, 06:20
|- - Диm   Цитата(mse @ May 29 2007, 12:20) Не надо ...   May 29 2007, 06:25
- - golovin   В App.Note как раз описана технология перевода дро...   May 29 2007, 06:18
- - golovin   К сожалению программное умножение/деление не подхо...   May 29 2007, 07:43
|- - Dog Pawlowa   Цитата(golovin @ May 29 2007, 10:43) К со...   May 29 2007, 07:50
|- - mse   Цитата(golovin @ May 29 2007, 11:43) К со...   May 29 2007, 08:00
|- - ae_   Цитата(golovin @ May 29 2007, 16:43) К со...   May 29 2007, 08:04
- - golovin   Т.е. любая мега сможет поделить на 5 или умножить ...   May 29 2007, 08:06
|- - mse   Цитата(golovin @ May 29 2007, 12:06) Т.е....   May 29 2007, 08:18
|- - ae_   Цитата(golovin @ May 29 2007, 17:06) Т.е....   May 29 2007, 08:21
|- - mse   Цитата(ae_ @ May 29 2007, 12:21) Результа...   May 29 2007, 08:25
- - golovin   to mse: по поводу программного и аппаратного это я...   May 29 2007, 08:31
|- - mse   Цитата(golovin @ May 29 2007, 12:31) В то...   May 29 2007, 08:43
|- - ae_   Цитата(mse @ May 29 2007, 17:43) Никакой ...   May 29 2007, 10:31
|- - mse   Цитата(ae_ @ May 29 2007, 14:31) У меня п...   May 29 2007, 10:46
- - golovin   А можно поподробней про число 0х3334 ?   May 29 2007, 08:50
|- - mse   Цитата(golovin @ May 29 2007, 12:50) А мо...   May 29 2007, 08:56
- - golovin   to mse: БОЛЬШОЕ спасибо   May 29 2007, 09:44
- - defunct   Есть такой интересный алгоритм деления на 10: Для...   May 29 2007, 15:55
|- - m16   Цитата(defunct @ May 29 2007, 19:55) Есть...   May 30 2007, 08:56
- - golovin   Спасибо за интересные мысли !   May 30 2007, 11:07
- - umup   Вот, может подойдет - для 8 и 16 битных чисел. Пер...   Jun 1 2007, 02:17


Reply to this topicStart new topic
1 чел. читают эту тему (гостей: 1, скрытых пользователей: 0)
Пользователей: 0

 


RSS Текстовая версия Сейчас: 19th July 2025 - 04:44
Рейтинг@Mail.ru


Страница сгенерированна за 0.01338 секунд с 7
ELECTRONIX ©2004-2016