帧内预测的理论基础是视频种当前帧内部空域的相关性,也可说是当前编码图像的各个像素值从左上位置到右下位置的存在某种内在连续性。所以,当前编码块的预测像素值根据帧内预测方向上的已重建的空间相邻块的边界像素值获取。对于不同视频帧,纹理内容也不相同,因此需要根据编码块的图像内容自适应获取不同的预测放学,决策出其预测像素值需要参考和采用哪一个方向的参考像素,能够获取编码块的最佳压缩性能。
帧内预测主要是做两件事,预测像素获取和预测模式的编码。
通过相邻块里参考像素(环路滤波前)来生成亮度和色度分量预测像素值,并将亮度和色度的最佳帧内模式写到码流中。后者是告知解码器,编码端选择的最佳预测模式,从而解码端获取和编码器一样的预测像素值。
1.预测像素获取
H266中帧内预测的基本单位为CU,利用相邻块的重建像素信息,**依次经过:参考像素值的获取,预测像素值的计算,预测像素值的修正,**3大步骤生成当前CU预测像素。
帧内预测示意距离,白色区域为当前CU像素,灰色区域为相邻块中已编码重建像素,为帧内预测的参考像素。帧内预测的过程就是根据已重建的灰色像素点像素值,一般通过加权处理得到当前编码块白色区域的预测像素值。
是否能得到准确的帧内预测值主要取决以下三个步骤
1.当前编码块的参考像素有效性判断和获取(和相应滤波)
2.根据预测方向使用参考像素计算预测像素值
3.对第二步计算的预测像素值进行修正(后处理)
上述步骤可以概括为选择何种预测模式来表达与参考像素是怎么相似的,以及为了得到更精准的预测值对预测像素如何修正。
2.预测模式编码
帧内预测除上述预测过程,还需编码最优帧内预测模式讲预测信息写进码流传输到编码端。具体包括编码亮度分量编码和色度分量的预测编码信息。
H266编码亮度分量模式时,依然采用H.265里的MPM方式,使用MPM列表保存最可能的候选预测模式。H266的MPM增加到6个,包括Planar模式和5个候选预测模式(candMode)。色度分量而言,H.266包含3种类别8种预测模式,第一种是传统预测模式,包含Planar模式,DC模式,水平模式和垂直模式,共4种。第二种是直接使用对应位置的亮度分量预测模式信息即DM(Derived Mode)模式。第三种则是CCLM模式
H266的帧内预测技术,如下,
分类介绍各个技术属于帧内预测的哪一步骤:
1.属于参考像素获取和处理有:多参考行帧内预测技术(MultipleReference Line intra prediction,MRLP),(Mode Dependent Intra Smoothing,MDIS)模式依赖或依赖模式的帧内平滑滤波,是针对帧内预测的亮度分量参考像素滤波决策的技术。
2.属于预测像素值的计算有:(Wide Angle Intra Prediction,WAIP)即宽角度帧内预测。可用于那些宽高比不为1的CU,将帧内预测的角度模式覆盖角度范围进行了扩展,扩展的角度模式一共有28个,扩展的模式编号为-14~-1和67~80,不过需注意,并不是宽高比不为1的CU就能使用所有这些扩展的角度模式,不同宽高比对应的扩展模式个数,以及扩展角度模式对应的角度偏移值是标准规定好的。
矩阵加权帧内预测技术(Matrix Weighted Intra Prediction,MIP)
3.属于预测像素值的修正有:(Position Dependent Intra Prediction Combination,PDPC)因为现有帧内预测计算存在空间冗余度方面利用不足的可能,引入根据当前像素位置及帧内预测模式的角度,自适应选取反方向角度上的参考像素,将它和原有预测角度得到的帧内预测像素做基于像素距离的加权平均,得到最终的预测像素值。
4.考虑使用更合理的参考像素有:帧内编码子块划分(Intra Sub-Partitions,ISP)使用与当前编码块需要获取预测值的像素点的距离更相近的参考像素,来计算出预测像素值,以提高预测像素和参考像素的空间相关性。跨分量的线性模型技术:Cross Component Linear Model,CCLM)