mozilla
/
aom
зеркало из
1
0
Форкнуть 0
Код Задачи Пакеты Проекты Релизы Вики Активность

Add a couple of missing WRAPLOW checks 

To make coefficient checking consistent with the VP9 spec sections
8.7.1.6 and 8.7.1.1.

Change-Id: I92e38e89a41d1e482317bb478c48ffa608d2d6ee
This commit is contained in:
Debargha Mukherjee 2016-06-09 12:58:27 -07:00
Родитель 5aeadbb4f6
Коммит 697bcef677
2 изменённых файлов: 28 добавлений и 21 удалений
Показать статистику Скачать Patch файл Скачать Diff файл Показать все файлы Свернуть все файлы

25
vp10/common/vp10_inv_txfm.c
Просмотреть файл

@ -56,10 +56,10 @@ void vp10_iwht4x4_16_add_c(const tran_low_t *input, uint8_t *dest, int stride) {
c1 = e1 - c1; c1 = e1 - c1;
a1 -= b1; a1 -= b1;
d1 += c1; d1 += c1;
dest[stride * 0] = clip_pixel_add(dest[stride * 0], a1); dest[stride * 0] = clip_pixel_add(dest[stride * 0], WRAPLOW(a1));
dest[stride * 1] = clip_pixel_add(dest[stride * 1], b1); dest[stride * 1] = clip_pixel_add(dest[stride * 1], WRAPLOW(b1));
dest[stride * 2] = clip_pixel_add(dest[stride * 2], c1); dest[stride * 2] = clip_pixel_add(dest[stride * 2], WRAPLOW(c1));
dest[stride * 3] = clip_pixel_add(dest[stride * 3], d1); dest[stride * 3] = clip_pixel_add(dest[stride * 3], WRAPLOW(d1));
ip++; ip++;
dest++; dest++;
@ -268,7 +268,7 @@ void vp10_iadst4_c(const tran_low_t *input, tran_low_t *output) {
s4 = sinpi_1_9 * x2; s4 = sinpi_1_9 * x2;
s5 = sinpi_2_9 * x3; s5 = sinpi_2_9 * x3;
s6 = sinpi_4_9 * x3; s6 = sinpi_4_9 * x3;
s7 = x0 - x2 + x3; s7 = WRAPLOW(x0 - x2 + x3);
s0 = s0 + s3 + s5; s0 = s0 + s3 + s5;
s1 = s1 - s4 - s6; s1 = s1 - s4 - s6;
@ -1290,11 +1290,14 @@ void vp10_highbd_iwht4x4_16_add_c(const tran_low_t *input, uint8_t *dest8,
c1 = e1 - c1; c1 = e1 - c1;
a1 -= b1; a1 -= b1;
d1 += c1; d1 += c1;
dest[stride * 0] = highbd_clip_pixel_add(dest[stride * 0], a1, bd); dest[stride * 0] = highbd_clip_pixel_add(dest[stride * 0],
dest[stride * 1] = highbd_clip_pixel_add(dest[stride * 1], b1, bd); HIGHBD_WRAPLOW(a1, bd), bd);
dest[stride * 2] = highbd_clip_pixel_add(dest[stride * 2], c1, bd); dest[stride * 1] = highbd_clip_pixel_add(dest[stride * 1],
dest[stride * 3] = highbd_clip_pixel_add(dest[stride * 3], d1, bd); HIGHBD_WRAPLOW(b1, bd), bd);
dest[stride * 2] = highbd_clip_pixel_add(dest[stride * 2],
HIGHBD_WRAPLOW(c1, bd), bd);
dest[stride * 3] = highbd_clip_pixel_add(dest[stride * 3],
HIGHBD_WRAPLOW(d1, bd), bd);
ip++; ip++;
dest++; dest++;
} }
@ -1510,7 +1513,7 @@ void vp10_highbd_iadst4_c(const tran_low_t *input, tran_low_t *output, int bd) {
s4 = sinpi_1_9 * x2; s4 = sinpi_1_9 * x2;
s5 = sinpi_2_9 * x3; s5 = sinpi_2_9 * x3;
s6 = sinpi_4_9 * x3; s6 = sinpi_4_9 * x3;
s7 = (tran_high_t)(x0 - x2 + x3); s7 = (tran_high_t)HIGHBD_WRAPLOW(x0 - x2 + x3, bd);
s0 = s0 + s3 + s5; s0 = s0 + s3 + s5;
s1 = s1 - s4 - s6; s1 = s1 - s4 - s6;

24
vpx_dsp/inv_txfm.c
Просмотреть файл

@ -56,10 +56,10 @@ void vpx_iwht4x4_16_add_c(const tran_low_t *input, uint8_t *dest, int stride) {
c1 = e1 - c1; c1 = e1 - c1;
a1 -= b1; a1 -= b1;
d1 += c1; d1 += c1;
dest[stride * 0] = clip_pixel_add(dest[stride * 0], a1); dest[stride * 0] = clip_pixel_add(dest[stride * 0], WRAPLOW(a1));
dest[stride * 1] = clip_pixel_add(dest[stride * 1], b1); dest[stride * 1] = clip_pixel_add(dest[stride * 1], WRAPLOW(b1));
dest[stride * 2] = clip_pixel_add(dest[stride * 2], c1); dest[stride * 2] = clip_pixel_add(dest[stride * 2], WRAPLOW(c1));
dest[stride * 3] = clip_pixel_add(dest[stride * 3], d1); dest[stride * 3] = clip_pixel_add(dest[stride * 3], WRAPLOW(d1));
ip++; ip++;
dest++; dest++;
@ -266,7 +266,7 @@ void iadst4_c(const tran_low_t *input, tran_low_t *output) {
s4 = sinpi_1_9 * x2; s4 = sinpi_1_9 * x2;
s5 = sinpi_2_9 * x3; s5 = sinpi_2_9 * x3;
s6 = sinpi_4_9 * x3; s6 = sinpi_4_9 * x3;
s7 = x0 - x2 + x3; s7 = WRAPLOW(x0 - x2 + x3);
s0 = s0 + s3 + s5; s0 = s0 + s3 + s5;
s1 = s1 - s4 - s6; s1 = s1 - s4 - s6;
@ -1309,10 +1309,14 @@ void vpx_highbd_iwht4x4_16_add_c(const tran_low_t *input, uint8_t *dest8,
c1 = e1 - c1; c1 = e1 - c1;
a1 -= b1; a1 -= b1;
d1 += c1; d1 += c1;
dest[stride * 0] = highbd_clip_pixel_add(dest[stride * 0], a1, bd); dest[stride * 0] = highbd_clip_pixel_add(dest[stride * 0],
dest[stride * 1] = highbd_clip_pixel_add(dest[stride * 1], b1, bd); HIGHBD_WRAPLOW(a1, bd), bd);
dest[stride * 2] = highbd_clip_pixel_add(dest[stride * 2], c1, bd); dest[stride * 1] = highbd_clip_pixel_add(dest[stride * 1],
dest[stride * 3] = highbd_clip_pixel_add(dest[stride * 3], d1, bd); HIGHBD_WRAPLOW(b1, bd), bd);
dest[stride * 2] = highbd_clip_pixel_add(dest[stride * 2],
HIGHBD_WRAPLOW(c1, bd), bd);
dest[stride * 3] = highbd_clip_pixel_add(dest[stride * 3],
HIGHBD_WRAPLOW(d1, bd), bd);
ip++; ip++;
dest++; dest++;
@ -1529,7 +1533,7 @@ void vpx_highbd_iadst4_c(const tran_low_t *input, tran_low_t *output, int bd) {
s4 = sinpi_1_9 * x2; s4 = sinpi_1_9 * x2;
s5 = sinpi_2_9 * x3; s5 = sinpi_2_9 * x3;
s6 = sinpi_4_9 * x3; s6 = sinpi_4_9 * x3;
s7 = (tran_high_t)(x0 - x2 + x3); s7 = (tran_high_t)HIGHBD_WRAPLOW(x0 - x2 + x3, bd);
s0 = s0 + s3 + s5; s0 = s0 + s3 + s5;
s1 = s1 - s4 - s6; s1 = s1 - s4 - s6;