реклама на сайте
подробности

 
 
> Проблема с типами данных?
Mad_max
сообщение Apr 5 2010, 18:18
Сообщение #1


Местный
***

Группа: Свой
Сообщений: 377
Регистрация: 23-12-06
Из: Зеленоград
Пользователь №: 23 811



Доброго времяни суток!

Такой вот вопрос.

Есть массив 10-ти битных чисел.
Нужно вычислить мат ожидание, ско.

Переменные мат ожидания и ско обявленны как float.
Если элементы исходного массива обявлены как int, то получаются неверные значени, если элементы массива сделать long, то все нормально.
В целях экономии памяти хотелось бы все таки чтобы массив был int.

Компилятор С30, пик24.
Go to the top of the page
 
+Quote Post
 
Start new topic
Ответов
rezident
сообщение Apr 5 2010, 18:23
Сообщение #2


Гуру
******

Группа: Свой
Сообщений: 10 920
Регистрация: 5-04-05
Пользователь №: 3 882



Судя по всему, проблема собственно не с типами данных, а с преобразованиями типов данных. Приведите кусок программы, в котором возникает ошибка при вычислениях.
Go to the top of the page
 
+Quote Post
Mad_max
сообщение Apr 5 2010, 20:17
Сообщение #3


Местный
***

Группа: Свой
Сообщений: 377
Регистрация: 23-12-06
Из: Зеленоград
Пользователь №: 23 811



Цитата(rezident @ Apr 5 2010, 22:23) *
Судя по всему, проблема собственно не с типами данных, а с преобразованиями типов данных. Приведите кусок программы, в котором возникает ошибка при вычислениях.

Код
long mas[NUM_LENGTH];
float sum=0,sumofsq=0,sko=0,sigma=0;
long *ptr;

    for (i=0, ptr=mas; i<NUM_LENGTH; i++ )
        {
        sumofsq += (*ptr)*(*ptr);
        sum += *ptr;
        *ptr++;
        }

    sko = sumofsq - (sum)*(sum)/NUM_LENGTH;
    sko /= (NUM_LENGTH - 1);
    sigma = sqrt(sko);


Собственно в таком виде работает.
Как только mas делаю int (соответственно и указатель тоже int), sko отрицательное и корень вычислить нельзя.

P.S. Pic 16 бит.
Go to the top of the page
 
+Quote Post
rezident
сообщение Apr 5 2010, 20:57
Сообщение #4


Гуру
******

Группа: Свой
Сообщений: 10 920
Регистрация: 5-04-05
Пользователь №: 3 882



Цитата(Mad_max @ Apr 6 2010, 02:17) *
Как только mas делаю int (соответственно и указатель тоже int), sko отрицательное и корень вычислить нельзя.

Ну дык 1023*1023=1046529, а 16 бит это только 65535. У вас переполнение в операторе возникает, когда массив типа int и соответственно такой же указатель
Цитата(Mad_max @ Apr 6 2010, 02:17) *
Код
sumofsq += (*ptr)*(*ptr);

Сделайте явное приведение типа, чтобы именно здесь операция с long выполнялась или введите еще одну переменную этого типа. Кроме того, переменные sumofsq и sum совершенно незачем быть типа float. Лишнее преобразование типов получается. Объявите их как переменные целого типа long.
Код
int mas[NUM_LENGTH];
long sum=0, sumofsq=0, val;
float sko, sigma;
for (int i=0, int *ptr=mas; i<NUM_LENGTH; i++ )
{ val=ptr[i]; //неявное приведение типа
  sumofsq += val*val;
  sum += val;
}
sko = (float)sumofsq; //явное приведение типа
sko -= (float)((sum)*(sum))/NUM_LENGTH; //здесь операция приведения типа зависит от NUM_LENGTH
sko /= (NUM_LENGTH - 1);
sigma = sqrt(sko);

Как-то так примерно. laughing.gif При вычислении sko нужно проверить, чтобы произведение sum не превысило разрядности long. Если превышает, то нужно привести с типу float один из сомножителей, а не значение их произведения.
Go to the top of the page
 
+Quote Post



Reply to this topicStart new topic
1 чел. читают эту тему (гостей: 1, скрытых пользователей: 0)
Пользователей: 0

 


RSS Текстовая версия Сейчас: 30th July 2025 - 12:00
Рейтинг@Mail.ru


Страница сгенерированна за 0.01397 секунд с 7
ELECTRONIX ©2004-2016