Добрый день. Разбираюсь с ДВП, для проверки написал программку в матлабе. Вейвлет - CDF(5,3), коэффициенты для LP: [-1/8, 1/4, 3/4, 1/4, -1/8], для HP: [0, -1/2, 1, -1/2, 0]. Код:

Не могу понять почему, после преобразованиия получается лажа:

Слева на право: Оригинал, моя функция, матлабовская функция dwt2 (Вейвлет - Дабоши 2).

Стою я летом в лыжи обутый... Отлаживаюсь м матлабе по шагам:
x(1) = 155
x(2) = 155
x(3) = 155
x(4) = 154
x(5) = 155
Считаю lo(1) на бамажке: lo(1) = x(3)*(3/4) + (x(2) + x(4))*(1/4) - (x(1) + x(5))*(1/8) = 154.75
Матлаб рисует 64

Тоже обул лыжи, вышел а Матлаб, посмотрел...

уинт работает правильно, но поменял в функции - те же вилы
В воркспейсе массив вообще обозначен как дабл.

Все, кажись разобрался. x(1) = 155, 6*x(1)/8 = 32 - ошибка из-за переполнения int8, а вот 6*(x(1)/8) = 144. Вот за это не люблю матлаб - строгой типизации нету, зато есть грабли с ней связанные.

В MATLAB есть функция intwarning.
Включите вывод сообщений с помощью intwarning('on') и MATLAB будет выдавать предупреждения при переполнении.

Спрошу тут, чтобы темы не плодить. Вот есть у меня переменная uint8. В матлабе по умолчанию используется режим насыщения при переполнении (т.е 200+100=255). Можно ли какими настройками сделать по-человечески чтобы 200+100=44 ?

Сдается мне, что в актуальных версиях MATLAB таких настроек нет. Если по человечески - надо переопределять функции класса uint8 и учитывать при операциях возможность переполнения (т.е. после сложения двух целых берем по модулю 256 (функция mod)).
Для типов, кратных 16-битному слову - можно использовать 'fixed-point toolbox'. В help смотреть функции fi и ufi.

И еще, прощу прощения, но я ошибся. Попробовал на работе - в текущих версиях MATLAB уже нет функции intwarning.