一个CTU分割细节过程—— VTM （13.0）源码阅读

摘要：本文主要分析VTM13.0 一个CTU分割过程，目的是为了在此基础上嵌入深度学习算法加速CU 分割决策过程。

1. CU/CTU 总体划分框架

1）CTU -> CU

2）xComPressCU(): 传入tempCS（curr_CU） 、bestCS(best_CU)、partitioner(CTU树节点信息,以栈的方式存储需要遍历的CU，即栈的顺序是树遍历的顺序)

3)然后执行m_modeCtrl->initCULevel( partitioner, *tempCS );  初始化可分割的模式列表，以栈的方式保存，然后遍历curr_CU -> testMode 

// CU 入栈
m_ComprCUCtxList.push_back(CU)，存放需要遍历CU栈 ： 
// currCU下的testModes 入栈（多个模式） 
m_ComprCUCtxList.back().testModes().push_back( { ETM_SPLIT_TT_H, ETO_STANDARD, qp } )

4)计算  帧间/帧内/其他模式/分割模式  （这集中模式的计算为并列关系，特别是分割模式，与以往的理解有出入）

5)xCheckModeSplit(encTestMode)  // 传入当前 split mode 并分割出对应的subCU,然后遍历对应的subCU 调用xCompressCU() ：如此递归下去，直到不能分割为止。遍历完所有 的subCU 后，对比SUM( subCus RD Cost) 与当前 CU 的RD Cost ,得到最优的CU

6）提取当前CU的下一个split mode