浅谈RDOQ

为降低HEVC中RDOQ算法计算量，用混合拉普拉斯分布对变换系数的统计量进行建模，提出一种低复杂度RDOQ算法。
因此，通过优化整个块的RD性能，可以直接确定最优的量化电平，并最终避免复杂的RD代价计算。
对于HDQ，对TU中所有变换系数进行同等量化，即均匀重构量化（URQ）。早期的H.264中利用了DZ+UTQ，作为HDQ的高级版本。
而对于SDQ，根据最终RD性能操作量化系数，为反映熵编码中使用的系数间的相关性而构造了网格图，然后基于动态规划或者维特比算法，在网格中以最小的RD代价搜索最优路径。这种算法固然计算复杂度非常高。因为每个候选值的代价计算都需要通过熵编码进行。
本文建立基于TU系数的混合拉普拉斯分布的率失真模型，提出了一种低复杂度的RDOQ算法，将率失真模型作为量化参数和残差统计量的函数，可避免确定最优量化系数时进行的密集的计算搜索。

---

HEVC中的RDOQ

HEVC中RDOQ包括三个模块：
1.电平候选值搜索和编码子块标志（CSBF）决策，其中，失真用残差的变换系数和反量化系数之间的差的平方和（SSD）表示；
2.最终量化系数搜索(LSC)和编码块标志（CBF）决策；
3.符号数据隐藏(SDH)技术。
具体细节如图：

低复杂度RDOQ

下图给出了不同标准差的实际拉普拉斯分布和变换系数在不同TU和变换中的概率：
包括许多变换系数的分布都与拉普拉斯函数很好地吻合，不同的TU大小通常需要不同的拉普拉斯参数来描述，并且拉普拉斯分布适用于大范围QP值的变换系数建模。
假设残差数据服从零均值拉普拉斯分布：
混合拉普拉斯分布函数：
其中，wk表示每个变换块尺寸的权重，k表示层索引。具体来说，第0层对应32x32TU，第3层对应DCT的4x4TU，第4层和第5层分别代表DST的4x4TU和4x4的变换跳过。
一般用原始残差和重构残差的平方差和来计算失真。基于标量量化，TU的第k层的失真模型：
其中，lij表示最优量化电平，即通过CABAC编码压缩的最终残差数据。此外，缩放因子s和量化步长应当根据HEVC中传统量化方法进行修改。
HEVC中的RDOQ中，需解决两个阶段的最小化问题，即在所有可能的候选中选择RD代价最小的最优量化系数，并将所有系数映射到给定编码块中，使得该编码块的RD代价最小。