HEVC Transform

导读

本文介绍内容包括：
x265的系数熵编码模块、TU的划分原理、HEVC中Transform模块相关的语法元素

HEVC扫描顺序

AVC扫描顺序

我们知道，在AVC中采用的是zigzag扫描，这样的做法是尽可能地增加相关性，从而使得游程编码的时候能采用更少的比特数

HEVC系数扫描顺序

先不考虑基于模式的扫描，在HEVC采用的扫描顺序是对角扫描，而且是从右下角开始扫描，扫描到左上角。

主要考虑的因素

我们知道，视频编码时，编码的context一直在不停地切换，在每个bin之间都一直在切换，所以如何确定每个bin的context很重要，另外，如何能设计简单的context选择方法也很重要。最终的扫描顺序确定，就是可以使得context的选择十分简单(便于并行处理，编码标准的设计和硬件厂商的相关性非常高)。虽然会损失一部分的性能

基于模式的扫描顺序

基于模式的扫描顺序可以大概节省1.5%的码率。简单概括，帧内的4x4和8x8TU，有三种扫描顺序可选，帧间或者帧内更大的TU，只有对角扫描。

熵编码语义

上图是一个4x4TU的编码实例，现在开始解释其中涉及到的不同编码语义。

last_sig_coeff_x 和 last_sig_coeff_y

最后一个非零SIG(significant coeffi flag)，其实就是最后一个非零系数的位置。AVC和HEVC中编码coeff有些不同，AVC是交替编码SIG和LSIG，而HEVC利用标记最后一个位置，来避免了原来的两个强相关语义编码。

coded_sub_block_flag (CSBF)

编码significance图需要的比特数还是不少的，如果一整个TU来编码的话，冗余信息还是很多，所以先把TB以4x4为单元进行划分，然后用CSBF来标记。
CSBF=1，表示4x4的块中有非零系数，然后紧跟一个标志位表示有几个非零系数。
下图举个例子来描述这个过程，图中是8x8的TU：

由CSBF引入的进一步扫描顺序

8x8的TU系数扫描顺序：

16x16和32x32的TU系数扫描顺序：

熵编码写入bins流程

1. 根据编码模式确定扫描方向
2. 编码last_sig_coeff_x和last_sig_coeff_y
3. 编码CSBF
4. 编码SIG
5. 编码coefficient level和sign coding

流程如图

第一遍扫描：SIGS

第一遍扫描：coeff_abs_level_greater1_flag (ALG1)和coeff_abs_level_greater2_flag (ALG2)

表示每个相关位置的值是否大于1或者大于2

第三遍扫描： sign of each significant level

变换系数值的正负

第四遍或者第五遍扫描：coeff_abs_level_remaining(ALRem)

最后的变换系数值

z = SIG + ALG1 + ALG2 + ALRem

X265中的变换系数编码