VTM10.0代码学习11：from_EncSlice_compressSlice()_to_EncCu_xCompressCU()

此系列是为了记录自己学习VTM10.0的过程，目前正在看编码端。主要的参考文档有JVET-S2001-vH和JVET-S2002-v1。由于本人水平有限，出现的错误恳请大家指正，欢迎与大家一起交流进步。

上一篇博文(VTM10.0代码学习10)提到compressSlice()这个函数，这篇博文就继续推进，从Slice级编码深入到CU级编码。compressSlice()里面没啥重要的内容，所以就从里面调用的函数encodeCtus()开始讲起。

1. encodeCtus()

int prevQP[2];
int currQP[2];
prevQP[0] = prevQP[1] = pcSlice->getSliceQp();
currQP[0] = currQP[1] = pcSlice->getSliceQp();

for( uint32_t ctuIdx = 0; ctuIdx < pcSlice->getNumCtuInSlice(); ctuIdx++ )
{
   
}

前面繁琐的设置就略过了，下面就从这个最重要的for循环开始，作用是将slice切成CTU处理

const int32_t ctuRsAddr = pcSlice->getCtuAddrInSlice( ctuIdx );

// update CABAC state
const uint32_t ctuXPosInCtus        = ctuRsAddr % widthInCtus;
const uint32_t ctuYPosInCtus        = ctuRsAddr / widthInCtus;

const Position pos (ctuXPosInCtus * pcv.maxCUWidth, ctuYPosInCtus * pcv.maxCUHeight);
const UnitArea ctuArea( cs.area.chromaFormat, Area( pos.x, pos.y, pcv.maxCUWidth, pcv.maxCUHeight ) );

if ((cs.slice->getSliceType() != I_SLICE || cs.sps->getIBCFlag()) && cs.pps->ctuIsTileColBd( ctuXPosInCtus ))
{
   
    cs.motionLut.lut.resize(0);
    cs.motionLut.lutIbc.resize(0);
}

ctuArea：表示要处理的CTU的位置和大小

第一个if分支：当前帧是B或P帧，或者允许开启IBC的时候，当处理的CTU位于Tile的左边界时，需要清空motionLut，里面存储着HMVP候选列表

if (cs.pps->ctuIsTileColBd( ctuXPosInCtus ) && cs.pps->ctuIsTileRowBd( ctuYPosInCtus ))
{
   
    pCABACWriter->initCtxModels( *pcSlice );
    cs.resetPrevPLT(cs.prevPLT);
    prevQP[0] = prevQP[1] = pcSlice->getSliceQp();
}
else if (cs.pps->ctuIsTileColBd( ctuXPosInCtus ) && pEncLib->getEntropyCodingSyncEnabledFlag())
{
   
    // reset and then update contexts to the state at the end of the top CTU (if within current slice and tile).
    pCABACWriter->initCtxModels( *pcSlice );
    cs.resetPrevPLT(cs.prevPLT);
    if( cs.getCURestricted( pos.offset(0, -1), pos, pcSlice->getIndependentSliceIdx(), cs.pps->getTileIdx( pos ), CH_L ) )
    {
   
        // Top is available, we use it.
        pCABACWriter->getCtx() = pEncLib->m_entropyCodingSyncContextState;
        cs.setPrevPLT(pEncLib->m_palettePredictorSyncState);
    }
    prevQP[0] = prevQP[1] = pcSlice->getSliceQp();
}

取决于tile划分和是否开启entropy coding sync，在适当时候重置CABAC的上下文模型，prevPLT和prevQP

bool updateBcwCodingOrder = cs.slice->getSliceType() == B_SLICE && ctuIdx == 0;
if( updateBcwCodingOrder )
{
   
    resetBcwCodingOrder(false, cs);
    m_pcInterSearch->initWeightIdxBits();
}
if (pcSlice->getSPS()->getUseLmcs())
{
   
    m_pcCuEncoder->setDecCuReshaperInEncCU(m_pcLib-