H.264帧内编码的模式选择_帧内预测16x16与帧内预测4x4的选择-CSDN博客

本文链接：https://blog.csdn.net/android_lee/article/details/6203449

H.264编码中，4x4亮度预测有9种模式，其中DC、垂直和水平模式始终有效。模式选择通常通过率失真优化(RDO)或基于SAD/SATD和速率估计进行，RDO更精确但计算复杂，SAD方法快速但准确性稍低。宏块的4x4和16x16模式选择涉及SAD、SATD计算及比特成本估算，以找到最优预测模式。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

H.264中4X4亮度预测依据预测方向的不同共有9种预测模式。在亮度4x4帧内预测时，其中DC预测(模式2)、垂直预测(模式0)和水平预测(模式2总是被认为有效的，即使在编码块上面像素或左边像素不可用的情况下(这时候上面像素或左边像素的值就使用128这个值来代替)，而其它模式仅当所有需要利用的预测象素点都可用的情况下才可以使用(如果E, F, G,H不可用，可以用D的值来代替)。这儿所说的像素点可用(available)是指此像素所在的子块存在并且与当前编码的子块属于同一个slice。

模式选择
在H.264帧内编码中，每个宏块亮度信号都要完成9种4x4预测模式和4种16x16预测模式，然后通过预测模式选择，得出一种最佳预测模式使得编码后的图像在码流和图像质量两者权衡后的获得一个最佳。H.264中模式选择方法有两种:
1、使用率失真优化(RDO)模式选择。
使用这种RDO方式的模式选择过程如下:
1)在给定最后解码的帧及宏块的量化因子QP后，计算拉格朗日因子:
X=0.85*QP2 (1)
2)在帧内亮度4x4预测的9种预测模式中，通过计算下面的函数使得其值最小，从中选择最佳的帧内亮度4x4预测模式。
J(s, c, m I QP, Xm )=SSD(s, c, m I