X265编码核心函数分析

X265编码核心函数分析

compressCTU流程

1. m_bChromaSa8d = m_pParam->rdLevel >= 3;
2. 计算i32CtuQp
3. m_aRqtData[0].m_cEntropyCur.load(cInitEntrConxt); 初始化熵编码环境.推测先做下一层时，要加载下一层的初始环境
4. 对I_SLICE，调compressIntraCU
   根据rd设置，调用qprdRefine
5. 对NON_I_SLICE:
   如果是intra_refresh,调compressIntraCU；
   否则，根据rdlevel分别执行compressInterCU_rd0_4或compressInterCU_rd5_6

compressIntraCU流程

1. 可以不划分时，先调checkIntra检查最佳预测方向，再调用checkBestMode检查是否最佳模式，如果是8x8cu,再调用checkIntra检查NxN的模式（4个PU)，调用checkBestMode检查是否最佳模式
2. 如果可以划分,检查SPLIT模式的rdcost
   1. 每个SUBCU开始检查前要m_aRqtData[i32NextDepth].m_cEntropyCur，第0个SUBCU的初始值为m_aRqtData[u32CuDepth].m_cEntropyCur,后面的SUBCU的初始值为m_modeDepth[i32NextDepth].bestMode->contexts
   2. 调用compressIntraCU检查SUBCU返回rdcost
   3. 保存SUBCU的编码数据，
3. 调用检查SPLIT模式是否最佳
4. 保存最佳模式的CU数据到帧级缓存，并保存recon图像

checkIntra流程

对当前CU大小做intra最佳预测的计算返回rdcost

1. getIntraTUQtDepthRange：根据参数设置的TU的最大最小size，以及设置的intraTU大小以及当前CU大小设置TU范围
2. estIntraPredQT：计算当前大小的CU的最佳模式的distortion(SSE)
   0. 对1或者4个PU（8x8的intraCU可以有4个PU）
   1. 算出35种模式的sadcost，记录最小的sadcost
   2. 以最小sadcost的1.25倍为限，选出最多u32MaxRdCandCount = 2 + m_pParam->rdLevel + ((u32Depth + u32InitTuDepth) >> 1)种cand模式
   3. 如果只有一个候选模式，则此模式为最佳模式
   4. 如果有多个候选模式，对每个候选模式调用codeIntraLumaQT编码(会记录rdcost)，记录最小的rdcost以及对应的bestMode
   5. 当前CU设置成bestMode，再次调用codeIntraLumaQT编码，
   6. 调用extractIntraResultQT将每个TU的coeff和recYUV复制出来
   7. 返回distortion(SSE)
3. 调用estimateCuBitNum估计出最优模式下的bits
4. 调用calcEnergyAndRdCost算出rdcost