HEVC之lambda的推导

混合视频编码器中最常用的RD模型将 $R$ 表示为 $D$ 的对数函数：
$$R(D)=a\times {\log }_2(\frac{b}{D})$$
因此：
$$\frac{\partial R}{\partial D}=-a\frac{1}{D\ln 2}=-\frac{1}{\lambda }$$
$$\Rightarrow \lambda =\frac{\ln 2}{a}D$$
利用量化间隔$Q$对失真$D$进行建模：
$$D=\frac{Q^2}{3}$$
HEVC 中的量化间隔$Q$可以由量化参数 $QP$ 得到：
$$Q^2=2^{(QP-12)/3}$$
结合上述式子可以得到：
$$\lambda =c\times 2^{(QP-12)/3}$$
其中，$c=\ln 2/3a$。
在 HEVC 参考软件 HM 的实现中，对于 I 帧：
$${\lambda }_I=(1-max(0,min(0.5,0.05N_B)))\times 0.57\times 2^{(QP-12)/3}$$
其中，$N_B$表示一个 GOP 中连续的 B 帧数量。
对于 P 帧：
$${\lambda }_P=f\times 2^{(QP-12)/3}$$
其中，$f$表示 ‘QPfactor’，默认为 0.5，但是可以在配置文件中自己定义。
对于 B 帧：
$${\lambda }_B=f\times max(2,min(4,(QP-12)/6))\times 2^{(QP-12)/3}$$