H264变换过程简介

背景：

传统视频编码标准中变换过程采用8*8的快速DCT变换，该变换存在的缺陷是：需要进行浮点数操作，给系统设计与计算带来复杂度；此外变换核是无理数，有限的浮点数不能精确的表示无理数，而且浮点数运算可能会引入舍入误差，是的具体实现时导致编解码不匹配。因此H264采用4*4的整数DCT变换，变换过程只需进行整数的加减移位操作即可。

内容：

1）首先对输入的预测残差块进行前向整数4*4DCT变换；

2）判断输入的是否为帧内16*16亮度残差块/8*8色度残差块；

3）如果满足2），将16个4*4变换系数（/4个4*4变换系数）中的直流分量提取出来组成4*4/2*2直流系数进行hadamard变换；

4）将变换系数量化。

 

将前向DCT变换系数的直流分量进行hadamard变换（步骤3）的原因：DCT变换后能量集中在直流分量，hadamard变换能进一步压缩直流信号的相关性。