HEVC/H.265理论知识（6）——量化

一、介绍

1、量化就是把信号的连续取值映射成多个离散的幅值的过程，实现了信号取值多对一的映射。

2、残差数据进过变换之后，变换系数具有较大的取值范围，量化可以有效减小信号的取值范围，进而获得更好的压缩效果，量化是造成失真的根本原因

二、衡量失真的三种准则（分别有对应的公式）：

1、均方差MSE

2、信噪比SNR

3、峰值信噪比PSNR

三、HEVC可以使用的传统量化方法

1、大概的公式：l = floor(c/Qstep + f)，c表示系数、Qstep表示量化步长、l表示量化后的值，floor是向下取整函数，f控制舍入关系

2、HEVC有52个量化步长，对应了52个量化参数QP，可以通过查表查询

3、对于色度分量，量化参数限制为0~45。具体的说，当亮度分量的QP小于30时，色度分量的QP和亮度的相同，当亮度信号QP在30~51时，两者的关系可以通过查表得出

4、量化过程同时要完成整数DCT中的比例缩放运算，为了避免浮点计算，HEVC把分子分母进行放大处理，然后取整，以此保证运算精度，QP的运算方式也要进行调整：QP = floor（QP/6） + QP % 6

5、总的量化公式：

四、HEVC使用的RDOQ（率失真优化量化）

1、把量化与率失真优化过程结合，给定多个可选的量化值，利用RDO（率失真优化）选出最优的值

2、操作步骤：

     （1）确定当前TU每个系数的可选量化值，利用下面公式进行预量化：

          

     （2）利用RDO准则确定当前TU所有系数的最优量化值QP（注意是每个系数的QP）

     （3）利用RDO准则确定当前TU每一个系数块组（CG，4x4的块）是否量化成全零组。如果当前的CG是全零CG，那么只需要编码全零标志；否则，要编码所有的系数。具体是：遍历所有的CG，计算其量化为全零CG时的率失真代价，与原来的率失真代价比较，如果全零CG对应的率失真代价较小，那么令当前CG为全零CG

     （4）利用RDO准则准确确定当前TU最后一个非零系数的位置

五、HEVC中灵活的QP控制技术

1、量化组QG。是指把一帧图像分成固定大小（NxN）的正方形像素块，其大小又PPS指定，且必须处于CTU和最小CU之间（包含他们）

2、一个CTU可以包含一个或多个固定大小的QG，同一个QG内的所有含有非零系数的CU共享一个QP

3、HEVC中使用相邻的QG的信息来预测当前QG的QP（下面假设A是当前QG的左侧QG，B是当前QG的上方QG）：

     （1）对于一个slice的第一个QG，A和B都不存在，此时使用当前slice的QP作为该QG的预测QP

     （2）去过QG位于slice的上边界，那么B不存在，此时把B替换成前一个已经编码的QG

     （3）如果QG位于一个slice的左边界，A不存在，此时把A替换成前一个已编码的QG

     （4）预测的QP的计算公式

       

六、量化矩阵。

1、使用量化矩阵的原因是，对不同位置的系数使用不同的量化步长，这样能提高视频的主观质量

2、量化矩阵作用于比例缩放过程（比例缩放过程在变换和量化之间），其大小和TU相同（从4x4到32x32）

3、HEVC定义了4x4和8x8两种大小的默认量化矩阵，并规定16x16、32x32量化矩阵可以由8x8量化矩阵采样得到

4、HEVC对量化矩阵中的元素使用差分编码！