реклама на сайте
подробности

 
 
> Проблема с типами данных?
Mad_max
сообщение Apr 5 2010, 18:18
Сообщение #1


Местный
***

Группа: Свой
Сообщений: 377
Регистрация: 23-12-06
Из: Зеленоград
Пользователь №: 23 811



Доброго времяни суток!

Такой вот вопрос.

Есть массив 10-ти битных чисел.
Нужно вычислить мат ожидание, ско.

Переменные мат ожидания и ско обявленны как float.
Если элементы исходного массива обявлены как int, то получаются неверные значени, если элементы массива сделать long, то все нормально.
В целях экономии памяти хотелось бы все таки чтобы массив был int.

Компилятор С30, пик24.
Go to the top of the page
 
+Quote Post
 
Start new topic
Ответов (1 - 6)
jorikdima
сообщение Apr 5 2010, 18:21
Сообщение #2


тут может быть ваша реклама
*****

Группа: Свой
Сообщений: 1 164
Регистрация: 15-03-06
Из: Санкт-Петербург/CA
Пользователь №: 15 280



Приведите код. Скорее всего переполнение где-то.
Не в курсе PIC24 скольки битный?
Go to the top of the page
 
+Quote Post
rezident
сообщение Apr 5 2010, 18:23
Сообщение #3


Гуру
******

Группа: Свой
Сообщений: 10 920
Регистрация: 5-04-05
Пользователь №: 3 882



Судя по всему, проблема собственно не с типами данных, а с преобразованиями типов данных. Приведите кусок программы, в котором возникает ошибка при вычислениях.
Go to the top of the page
 
+Quote Post
Mad_max
сообщение Apr 5 2010, 20:17
Сообщение #4


Местный
***

Группа: Свой
Сообщений: 377
Регистрация: 23-12-06
Из: Зеленоград
Пользователь №: 23 811



Цитата(rezident @ Apr 5 2010, 22:23) *
Судя по всему, проблема собственно не с типами данных, а с преобразованиями типов данных. Приведите кусок программы, в котором возникает ошибка при вычислениях.

Код
long mas[NUM_LENGTH];
float sum=0,sumofsq=0,sko=0,sigma=0;
long *ptr;

    for (i=0, ptr=mas; i<NUM_LENGTH; i++ )
        {
        sumofsq += (*ptr)*(*ptr);
        sum += *ptr;
        *ptr++;
        }

    sko = sumofsq - (sum)*(sum)/NUM_LENGTH;
    sko /= (NUM_LENGTH - 1);
    sigma = sqrt(sko);


Собственно в таком виде работает.
Как только mas делаю int (соответственно и указатель тоже int), sko отрицательное и корень вычислить нельзя.

P.S. Pic 16 бит.
Go to the top of the page
 
+Quote Post
rezident
сообщение Apr 5 2010, 20:57
Сообщение #5


Гуру
******

Группа: Свой
Сообщений: 10 920
Регистрация: 5-04-05
Пользователь №: 3 882



Цитата(Mad_max @ Apr 6 2010, 02:17) *
Как только mas делаю int (соответственно и указатель тоже int), sko отрицательное и корень вычислить нельзя.

Ну дык 1023*1023=1046529, а 16 бит это только 65535. У вас переполнение в операторе возникает, когда массив типа int и соответственно такой же указатель
Цитата(Mad_max @ Apr 6 2010, 02:17) *
Код
sumofsq += (*ptr)*(*ptr);

Сделайте явное приведение типа, чтобы именно здесь операция с long выполнялась или введите еще одну переменную этого типа. Кроме того, переменные sumofsq и sum совершенно незачем быть типа float. Лишнее преобразование типов получается. Объявите их как переменные целого типа long.
Код
int mas[NUM_LENGTH];
long sum=0, sumofsq=0, val;
float sko, sigma;
for (int i=0, int *ptr=mas; i<NUM_LENGTH; i++ )
{ val=ptr[i]; //неявное приведение типа
  sumofsq += val*val;
  sum += val;
}
sko = (float)sumofsq; //явное приведение типа
sko -= (float)((sum)*(sum))/NUM_LENGTH; //здесь операция приведения типа зависит от NUM_LENGTH
sko /= (NUM_LENGTH - 1);
sigma = sqrt(sko);

Как-то так примерно. laughing.gif При вычислении sko нужно проверить, чтобы произведение sum не превысило разрядности long. Если превышает, то нужно привести с типу float один из сомножителей, а не значение их произведения.
Go to the top of the page
 
+Quote Post
Mad_max
сообщение Apr 6 2010, 06:44
Сообщение #6


Местный
***

Группа: Свой
Сообщений: 377
Регистрация: 23-12-06
Из: Зеленоград
Пользователь №: 23 811



Rezident спасибо!
Да, я все же аппаратчик, так сходу таких вещей не вижу.
Видимо значение (*ptr)*(*ptr) сохраняется сначала в аккумуляторе,
размер которого определяется типом переменной, а потом уже это значение
плюсуется к регистру в котором накапливается значение sumofsq.
Go to the top of the page
 
+Quote Post
XVR
сообщение Apr 6 2010, 08:31
Сообщение #7


Гуру
******

Группа: Свой
Сообщений: 3 123
Регистрация: 7-04-07
Из: Химки
Пользователь №: 26 847



Цитата
Видимо значение (*ptr)*(*ptr) сохраняется сначала в аккумуляторе
Язык С таких понятий как 'аккумулятор' не знает. А порядок вычислений выражений описан в стандарте. В частности, там говорится (с некоторыми упрощениями), что в бинарной операции ('*' например) сомножители приводятся к типу наибольшего из них. Затем производится умножение. Тип переменной, куда вы присваиваете результат, при выборе размера операндов не учитывается sad.gif Т.е. если вы перемножаетет 2 int'а, то и результат будет int'ом, несмотря на то, что прибавить вы его пытаетесь к float
Go to the top of the page
 
+Quote Post

Reply to this topicStart new topic
1 чел. читают эту тему (гостей: 1, скрытых пользователей: 0)
Пользователей: 0

 


RSS Текстовая версия Сейчас: 22nd July 2025 - 23:32
Рейтинг@Mail.ru


Страница сгенерированна за 0.01404 секунд с 7
ELECTRONIX ©2004-2016