mozilla
/
aom
зеркало из
1
0
Форкнуть 0
Код Задачи Пакеты Проекты Релизы Вики Активность

Refactor loop filter frame border condition 

Use the proper scaling factor to decide if a block is sitting on
the frame border. This refactor does not change the coding
statistics of the code base. It fixes an enc/dec mismatch issue
due to out of boundary memory access in the cb4x4 mode.

Change-Id: Ia1e999c0f4e4ef10aac6120e69c1fb10a738dd4d
This commit is contained in:
Jingning Han 2016-12-17 15:55:13 -08:00
Родитель 6a9b24003c
Коммит ed8f396451
1 изменённых файлов: 10 добавлений и 5 удалений
Показать статистику Скачать Patch файл Скачать Diff файл Показать все файлы Свернуть все файлы

15
av1/common/loopfilter.c
Просмотреть файл

@ -1311,8 +1311,10 @@ void av1_filter_block_plane_non420_ver(AV1_COMMON *cm,
? get_uv_tx_size(mbmi, plane)
: mbmi->tx_size;
const int skip_border_4x4_c = ss_x && mi_col + c == cm->mi_cols - 1;
const int skip_border_4x4_r = ss_y && mi_row + r == cm->mi_rows - 1;
const int skip_border_4x4_c =
ss_x && mi_col + idx_c >= cm->mi_cols - mi_size_wide[BLOCK_8X8];
const int skip_border_4x4_r =
ss_y && mi_row + idx_r >= cm->mi_rows - mi_size_high[BLOCK_8X8];
TX_SIZE tx_size_c = txsize_horz_map[tx_size];
TX_SIZE tx_size_r = txsize_vert_map[tx_size];
@ -1488,8 +1490,10 @@ void av1_filter_block_plane_non420_hor(AV1_COMMON *cm,
#if CONFIG_VAR_TX
TX_SIZE mb_tx_size = mbmi->inter_tx_size[blk_row][blk_col];
#endif
const int skip_border_4x4_c = ss_x && mi_col + c == cm->mi_cols - 1;
const int skip_border_4x4_r = ss_y && mi_row + r == cm->mi_rows - 1;
const int skip_border_4x4_c =
ss_x && mi_col + idx_c >= cm->mi_cols - mi_size_wide[BLOCK_8X8];
const int skip_border_4x4_r =
ss_y && mi_row + idx_r >= cm->mi_rows - mi_size_high[BLOCK_8X8];
TX_SIZE tx_size_c = txsize_horz_map[tx_size];
TX_SIZE tx_size_r = txsize_vert_map[tx_size];
@ -1589,7 +1593,8 @@ void av1_filter_block_plane_non420_hor(AV1_COMMON *cm,
}
for (idx_r = 0; idx_r < cm->mib_size && mi_row + idx_r < cm->mi_rows;
idx_r += row_step) {
const int skip_border_4x4_r = ss_y && mi_row + idx_r == cm->mi_rows - 1;
const int skip_border_4x4_r =
ss_y && mi_row + idx_r >= cm->mi_rows - mi_size_wide[BLOCK_8X8];
const int r = idx_r >> mi_width_log2_lookup[BLOCK_8X8];
const unsigned int mask_4x4_int_r = skip_border_4x4_r ? 0 : mask_4x4_int[r];