Кто вдруг сталкивался.
Цитата
5.2.2.3.1 Quantization. Quantization is accomplished by dividing each DCT coefficient value by the
quantization table value for that coefficient and rounding the result. The quantized DCT coefficient values
are signed, two's complement integers with 11-bit precision for 8-bit input precision and 15-bit precision
for 12-bit input precision.
Сие не прибавило знаний.
Иногда в таблице квантизации появляются байты с установленным старшим битом. Вот это все-таки отрицательное число, или нет?
Просто сейчас ловлю мелкие недочеты в отображении JPG. Ищу где может быть потеря точности (считаю все целочисленно).
Пытаюсь понять наличие мелких цветовых артефактов на некоторых файлах. То ли я где-то не достаточно правильно YBR в RGB перевожу (переполнения или наоборот), то ли все умирает на этапе деквантизации.