Помощь - Поиск - Пользователи - Календарь
Полная версия этой страницы: Проблема с типами данных?
Форум разработчиков электроники ELECTRONIX.ru > Сайт и форум > В помощь начинающему > MCS51, AVR, PIC, STM8, 8bit
Mad_max
Доброго времяни суток!

Такой вот вопрос.

Есть массив 10-ти битных чисел.
Нужно вычислить мат ожидание, ско.

Переменные мат ожидания и ско обявленны как float.
Если элементы исходного массива обявлены как int, то получаются неверные значени, если элементы массива сделать long, то все нормально.
В целях экономии памяти хотелось бы все таки чтобы массив был int.

Компилятор С30, пик24.
jorikdima
Приведите код. Скорее всего переполнение где-то.
Не в курсе PIC24 скольки битный?
rezident
Судя по всему, проблема собственно не с типами данных, а с преобразованиями типов данных. Приведите кусок программы, в котором возникает ошибка при вычислениях.
Mad_max
Цитата(rezident @ Apr 5 2010, 22:23) *
Судя по всему, проблема собственно не с типами данных, а с преобразованиями типов данных. Приведите кусок программы, в котором возникает ошибка при вычислениях.

Код
long mas[NUM_LENGTH];
float sum=0,sumofsq=0,sko=0,sigma=0;
long *ptr;

    for (i=0, ptr=mas; i<NUM_LENGTH; i++ )
        {
        sumofsq += (*ptr)*(*ptr);
        sum += *ptr;
        *ptr++;
        }

    sko = sumofsq - (sum)*(sum)/NUM_LENGTH;
    sko /= (NUM_LENGTH - 1);
    sigma = sqrt(sko);


Собственно в таком виде работает.
Как только mas делаю int (соответственно и указатель тоже int), sko отрицательное и корень вычислить нельзя.

P.S. Pic 16 бит.
rezident
Цитата(Mad_max @ Apr 6 2010, 02:17) *
Как только mas делаю int (соответственно и указатель тоже int), sko отрицательное и корень вычислить нельзя.

Ну дык 1023*1023=1046529, а 16 бит это только 65535. У вас переполнение в операторе возникает, когда массив типа int и соответственно такой же указатель
Цитата(Mad_max @ Apr 6 2010, 02:17) *
Код
sumofsq += (*ptr)*(*ptr);

Сделайте явное приведение типа, чтобы именно здесь операция с long выполнялась или введите еще одну переменную этого типа. Кроме того, переменные sumofsq и sum совершенно незачем быть типа float. Лишнее преобразование типов получается. Объявите их как переменные целого типа long.
Код
int mas[NUM_LENGTH];
long sum=0, sumofsq=0, val;
float sko, sigma;
for (int i=0, int *ptr=mas; i<NUM_LENGTH; i++ )
{ val=ptr[i]; //неявное приведение типа
  sumofsq += val*val;
  sum += val;
}
sko = (float)sumofsq; //явное приведение типа
sko -= (float)((sum)*(sum))/NUM_LENGTH; //здесь операция приведения типа зависит от NUM_LENGTH
sko /= (NUM_LENGTH - 1);
sigma = sqrt(sko);

Как-то так примерно. laughing.gif При вычислении sko нужно проверить, чтобы произведение sum не превысило разрядности long. Если превышает, то нужно привести с типу float один из сомножителей, а не значение их произведения.
Mad_max
Rezident спасибо!
Да, я все же аппаратчик, так сходу таких вещей не вижу.
Видимо значение (*ptr)*(*ptr) сохраняется сначала в аккумуляторе,
размер которого определяется типом переменной, а потом уже это значение
плюсуется к регистру в котором накапливается значение sumofsq.
XVR
Цитата
Видимо значение (*ptr)*(*ptr) сохраняется сначала в аккумуляторе
Язык С таких понятий как 'аккумулятор' не знает. А порядок вычислений выражений описан в стандарте. В частности, там говорится (с некоторыми упрощениями), что в бинарной операции ('*' например) сомножители приводятся к типу наибольшего из них. Затем производится умножение. Тип переменной, куда вы присваиваете результат, при выборе размера операндов не учитывается sad.gif Т.е. если вы перемножаетет 2 int'а, то и результат будет int'ом, несмотря на то, что прибавить вы его пытаетесь к float
Для просмотра полной версии этой страницы, пожалуйста, пройдите по ссылке.
Invision Power Board © 2001-2025 Invision Power Services, Inc.