Цитата(Fast @ Dec 22 2010, 14:20)

ну как бы.. эффект гиббса
в добавок в вычислениях возможен где-то косяк
Вы дали мне надежду и я нашёл косяк - знаки при альфах/бетах были неправильные. Теперь красота.
float PSNR=48.77dB
integer PSNR=43.35dB
Цитата(Fast @ Dec 22 2010, 14:20)

хотя я тоже года три назад писал видеокодек на базе Добеши 9/7 и такое безобразие можно быо наблюдать только после хорошего такого квантования кофф-тов преобразования без квантования не должно быть таких артефактов, покажите фрагмент кода dwt-iwt
Не подскажите - у меня сейчас соотношение коэффициентов для НЧ/ВЧ=1.62573242/1.230174105,
встречал соотношение 2.2547306131/0.443506852 - откуда у этих чисел ноги растут?
PS: Вот так выглядит теперь после кодирования в integer и декодирования во float.
Эскизы прикрепленных изображений
 Уменьшено до 84%
1048 x 528 (15.88 килобайт)
|