基于贝叶斯分类的自适应RDOQ阈值模型

根据贝叶斯分类器来推导AZB检测阈值

---

基于Bayes分类的自适应RDOQ阈值模型建立

DCT系数更符合高斯分布模型，为计算简便，选用均值为0，标准差为бF的拉普拉斯分布模型。根据概率论中的3б原则，当ξ=3时，DCT系数落在（-ξбF，ξбF）范围内的概率在99%以上。因此，当TU块内所有DCT系数小于ξбF时，判为AZB，即
其中，ξ作为调节因子对于判断AZB具有重要调节作用。
离线情况下图像块的拉普拉斯参数∧的计算：
其中，n表示统计系数总数，x表示变换系数，u表示系数强度即变换系数绝对值。
在AZB检测方面，需要得到块级ΓDCT，并进行块级操作，而不是系数级处理。
通常，位于直流分量位置的参数∧具有最大强度，因此偏移量δ的最大值和ΓDCT的最小值一定出现在DC位置处。变换系数最终被分类为AZB还是NAZB，从统计学角度看主要由相对较大系数强度的DC和低频分量决定。
在RDOQ中，将DC位置的非零系数强制为0，是造成RDOQ和HDQ算法量化结果存在差异的主要原因。实际上，RDOQ算法通常是将量化值为1的系数强制置零，对于量化值为2或者大于2的系数很少进行强制置零。
因此，需要解决的真正问题，就是RDOQ中DC位置最佳ΓDCT，是一个概率二分类问题。

1.Bayes分类器应用推导

wi是变换系数u0在RDOQ算法下的最终量化结果，w0表示变换系数u0最终被量化为0，w1表示u0最终被量化为1的情况。要做的就是将大量样本输入分类器，基于分类器可以获得最可靠的分类统计结果。
首先，后验概率p(wi|u0)根据贝叶斯定理可以表示为：
贝叶斯分类器的分类规则表示如下：
RDOQ中的整体误判概率：
其中，R1和R0分别表示样本被分类为w1和w0的判断空间。显然，R1和R0实际上主要由u0进行描述。
因此，最佳阈值就是：

2.自适应量化阈值分析与建模

针对分布参数∧和QP的不同组合，两种尺寸在使用上式的贝叶斯分类器的方法进行统计分析得到最佳ΓDCT。如图为两种尺寸在DC位置的DCT系数分类图，交点处即为最佳ΓDCT。