HEVC中的快速RDOQ方法

尽管RDOQ显著提高了HEVC的编码性能，但是在用RDO准则优化操作时，确定各变换系数的最佳量化电平需要较高的计算复杂度。
本文中，首先提出一种跳过所有零编码单元的有效方法；然后，进一步提出一种快速RDOQ方法（通过跳过所有除DC系数的量化零块(AQZB-DC)的优化步骤）。此外，建立AQZB-DC的rate difference模型，以选择最优量化电平。

---

引言

RDOQ的高复杂度主要表现在它需要以RDO的方式为每个变换系数确定最优量化电平。RDOQ可以降低3.02%的比特率，但是带来了超过12%的计算复杂度。
本文从不同角度提出一种快速RDOQ方法：首先，高效检测全零块；此外，早期检测一种新类型的块（AQZB-DC）；然后，推导AQZB-DC的量化电平确定方案。

HEVC中的RDOQ

量化结果的浮点类型QCfloat和它的向下舍入整型QCceil表示如下：

其中，coeff代表变换系数，M是一个与QP有关的倍增因子。offset与帧类型有关。shift与TU尺寸和像素位深度有关。量化后可以得到两个可选的量化值：

然后，编码器通过计算原始CG和全零CG的RD cost来决定当前CG系数是否设置为全零。最终，以RD方式确定TU中最后一个非零系数位置，以节省变换系数的比特率。
综上所述可以发现，RDOQ包含了大量的迭代，计算一个TU中每个系数或者CG的失真和比特率是非常耗时的。此外，比特率计算涉及上下文模型更新，这就进一步恶化了算法复杂度。因此，有必要提出新方法简化RDOQ，该方法侧重于量化电平的确定。

快速RDOQ方法

首先定义一种新的块：除了直流系数的全量化零块（AQZB-DC）。AQZB-DC经过量化后在DC位置只包含一个非零系数。下图描述了提出的快速RDOQ算法过程，量化跳过方法适用于全零块。然后，建立一个量化电平决策模型来为AQZB-DC确定最优量化电平。

A.动机

RDOQ实现了显著的编码增益。然而，当量化电平为0时，没有更多的比特节省。因此，RDOQ对全零块的编码性能没有任何影响。如果全零块跳过量化过程会节省时间。对于AQZB-DC块，如果早期预测量化电平，就可以降低编码复杂度。下表展示了AQZB-DC块所占的百分比。

其中，AQZB-DC Ratio代表TU中AQZB-DC的比例，Hit Ratio代表AQZB-DC块的DC系数保持原始电平（QCceil）的概率。AQZB-DC占据了整个TU的超过18.5%（全零TU除外）。然而，在RA和LD配置下，分别只有37%和32%的AQZB-DC块保持了原始的量化电平。因此，提出量化电平决策模型来为AQZB-DC块预测最优量化电平是合适的。

B.快速块类型检测

与对TU中所有系数进行量化处理不同，我们从下面式子对块类型检测进行推导阈值（Thdzero）。
如果QCfloat小于1，向下舍入的结果QCceil等于0。Thdzero就可以推导如下：
如上式所示，在没有量化的情况下，Thdzero下的变换系数coeff设为0。
注意到Thdzero的值和TU尺寸和QP密切相关。因此，我们只需要根据编码器初始化阶段的TU尺寸和QP对来计算Thdzero。提出的检测方法可以描述为：

C.对AQZB-DC块的量化电平决策模型

为了对AQZB-DC块预测最优电平，基于QCceil和QCfloor之间的码率和失真差异建立一个量化电平决策模型。
引入△J模型代表TU的RD cost差异：
其中，Jceil和Jfloor分别代表QCceil和QCfloor的RD cost。△D和△R代表两个候选值之间的失真和码率差。最优量化结果通过△J的值产生。△J为负值，代表QCceil是最优的，并最终在RDOQ过程中被选择。所以就有下面的推导：
量化电平决策模型基于上式来建立。△R和△D/λ可以根据AQZB-DC的系数电平得到。这个模型的具体推导过程如下：
首先，量化误差（失真）Dq等描述如下：
其中QCq是量化结果。
注意到，当QCceil等于2时，RDOQ很少将值从2改到0。所以在这种情况下，只考虑2和1作为量化候选值。从上面的一些式子推导可以得到：
然后，引入码率差△R的快速估计。4种相关的语法元素列在下表。
其中，grt1和grt2分别表示量化系数的绝对值是否大于1和2；cbf表示当前TU是否有非零系数。以上三个元素以常规模式编码；rem表示变换系数编码过程中的剩余量化电平，并以旁路模式编码。上述四个元素的码率计算在下式中表示，这表明△R可以通过语法元素和相应标志的组合导出，如下：
考虑到AQZB-DC块的特殊系数分布，可以直接获得常规模式编码语法元素的上下文索引。因此，可以通过HM16.0中定义的查找表来获得某个语法元素编码码率R*(f)。当QCceil大于3时，如果QCceil不是某一个范围内的第一个值，量化电平往往具有相同的bit length。所以，假设这种情况△R为0。对于每个AQZB-DC块，△R时在不计算每个每个候选值的码率来估计的。而且，避免了上下文更新过程，获得了固定的上下文模型。整个过程大大降低了算法复杂性。
计算完△R和Thd△R后，AQZB-DC的量化系数可以基于选择模型来快速决定。如下式所示，如果△R小于Thd△R，QCceil被设置为最终电平，否则，QCfloor就是最优选择。

总结

本文通过早期检测全零块和AQZB-DC块来实现快速RDOQ。提出量化电平决策模型，对AQZB-DC块以最优RD折中来选择值。提出的方法在RA和LA配置下，分别可以减少量化时间平均42.00%和39.63%，只有0.03%和0.06%的BD-rate损失。