HEVC下快速RDOQ（从冗余RDOQ调用和全零块两方面分析）

提出一种用于HEVC中DCT系数量化的快速RDOQ方案。具体来说，首先提出一种RDOQ调用删除算法，它可以有效删除冗余的RDOQ调用，从而加快RDOQ进程。其次，开发一种基于全零块的RDOQ跳跃算法，以跳过不必要的RDOQ。

---

提出的快速RDOQ

RDOQ的高计算复杂度主要来自两个方面：1.需要对每个变换系数进行RD cost计算，这对于高清视频复杂度是非常高的；2.HEVC中基于残差四叉树的TU分区进一步提高了复杂性，因为在寻找某一个最佳TU分区时，每个候选TU都需要进行RD cost计算。

A.冗余RDOQ调用删除算法

由于DCT前后的能量保持不变，所以空间域的失真可以通过DCT域的失真得到：
其中，Y和Y’分别表示DCT变换前的原始残差矩阵和重构残差矩阵，F和F’分别表示DCT变换后在DCT域中的原始残差矩阵和重构残差矩阵。
可以看出，空间域失真和DCT域的失真是一致的。因此量化后根据上式直接计算各块的失真，无需经过耗时的反量化和逆变换。在确定了最佳TU模式后，可以得到重建帧，作为下一帧的参考帧。
用这种算法，在基于残差四叉树的TU划分过程中，不需要对不同RQT电平的不同大小的TU进行反量化和逆变换，在最后阶段只需进行一次反量化和反变换操作，即可得到最佳TU模式。

B.基于全零块的RDOQ跳过算法

RDOQ是在USQ之后，基于4x4变换块进行的。观察到，USQ之后的大部分4x4块都是全零的。对于一个4x4块，如果它在USQ之后是全零的，后续耗时的RDOQ过程的性能增益将是微不足道的（如果有的话）。因此，在这种情况下，另一种方法是跳过这个耗时的RDOQ过程，这样可以显著降低计算复杂度。
下表描述了量化系数的统计结果，其中第三列“All-zero（%）”代表经过RDOQ的全零4x4块数量除以所有4x4块的数量，而第四列“Consistency（%）”代表如果USQ量化系数全零，经过RDOQ后系数仍是全零的百分比。可以看到，均匀标量量化后平均有86.1%的4x4块为全零，RDOQ后有95%的块全零。
基于上述观察，提出一种基于全零块的RDOQ跳过算法。首先对每个4x4块进行均匀标量量化。USQ之后，引入一种全零块校验过程。如果一个块在均匀标量量化之后是全零的，随后的RDOQ过程将被跳过，否则，执行正常的RDOQ。