xCompressCU函数可以说是VTM编码端的核心主干函数。
xCompressCU函数会进行递归调用,其中的xCheckModeSplit函数会调用xCompressCU试着把当前cu进行更进一步的划分。
tempCS会用来存储当前compress区域的各种模式下处理得到的数据,如果优于bestCS,那么swap给bestCS;如果差于bestCS,那么丢弃tempCS中数据。
bestCS在xCompressCU函数中的任何位置,都用来存储到目前为止所得到的最优划分和最优模式数据。
void EncCu::xCompressCU( CodingStructure *&tempCS, CodingStructure *&bestCS, Partitioner &partitioner )
{
Slice& slice = *tempCS->slice;
const PPS &pps = *tempCS->pps;
const SPS &sps = *tempCS->sps;
const UInt uiLPelX = tempCS->area.Y().lumaPos().x;
const UInt uiTPelY = tempCS->area.Y().lumaPos().y;
//当前处理的area
const UnitArea currCsArea = clipArea( CS::getArea( *bestCS, bestCS->area, partitioner.chType ), *tempCS->picture );
m_modeCtrl->initCULevel( partitioner, *tempCS ); //该函数对m_modeCtrl进行初始化,对需要test的各种模式进行压栈等操作
m_CurrCtx->start = m_CABACEstimator->getCtx();
m_cuChromaQpOffsetIdxPlus1 = 0;
if( slice.getUseChromaQpAdj() )
{
Int lgMinCuSize = sps.getLog2MinCodingBlockSize() +
std::max<