HM12.0 的 RDO 中的lambda 的选择

lambda的取值是跟QP相关的一个公式 。。。

luma and chroma 的lambda是不同的 （具体QP的取值要细看标准文本，PPS,slice header, TU level都可传），因此chroma and luma lambda的取值也应不同 （JCTVC-F0386)。

但在 mode decision 的RDO中，rate 是Luma and chroma 在一起的，所以无法区分用不同的lambda, 就统一用了luma的 lambda，但是对chroma的 distortion进行了加权，乘以了 luma lambda / chroma lambda,

而在 RDOQ, SAO, ALF中 rate是luma chroma 可分离的, 所以用不同的lambda, distortion 不用加权。

 

在ME时因为只考虑了luma，所以lambda也是luma的，但是因为ME用的是SAD（整数时直接SAD, 分数时hadamard transform之后SAD), 所以是 mode decision RDO中的lambda 的sqrt,