Fix the inverse 2x2 transform scaling factor

Scale down the 2x2 inverse transform transfer gain by 2.

Change-Id: Ifdd2ed302c05d08be142bc2fdef276f176e38c3d
This commit is contained in:
Jingning Han 2016-11-30 09:54:01 -08:00
Родитель b3b034df07
Коммит 4629661c89
1 изменённых файлов: 4 добавлений и 4 удалений

Просмотреть файл

@ -1086,10 +1086,10 @@ void av1_inv_txfm_add_2x2(const tran_low_t *input, uint8_t *dest, int stride,
(void)lossless; (void)lossless;
(void)eob; (void)eob;
a1 = (a2 + b2) >> 1; a1 = (a2 + b2) >> 2;
b1 = (a2 - b2) >> 1; b1 = (a2 - b2) >> 2;
c1 = (c2 + d2) >> 1; c1 = (c2 + d2) >> 2;
d1 = (c2 - d2) >> 1; d1 = (c2 - d2) >> 2;
dest[0] = clip_pixel_add(dest[0], WRAPLOW(a1)); dest[0] = clip_pixel_add(dest[0], WRAPLOW(a1));
dest[1] = clip_pixel_add(dest[1], WRAPLOW(b1)); dest[1] = clip_pixel_add(dest[1], WRAPLOW(b1));