satd残差_X265编码核心函数分析

X265编码核心函数分析

compressCTU流程

m_bChromaSa8d = m_pParam->rdLevel >= 3;

计算i32CtuQp

m_aRqtData[0].m_cEntropyCur.load(cInitEntrConxt); 初始化熵编码环境.推测先做下一层时，要加载下一层的初始环境

对I_SLICE，调compressIntraCU

根据rd设置，调用qprdRefine

对NON_I_SLICE:

如果是intra_refresh,调compressIntraCU；

否则，根据rdlevel分别执行compressInterCU_rd0_4或compressInterCU_rd5_6

compressIntraCU流程

可以不划分时，先调checkIntra检查最佳预测方向，再调用checkBestMode检查是否最佳模式，如果是8x8cu,再调用checkIntra检查NxN的模式(4个PU)，调用checkBestMode检查是否最佳模式

如果可以划分,检查SPLIT模式的rdcost

每个SUBCU开始检查前要m_aRqtData[i32NextDepth].m_cEntropyCur，第0个SUBCU的初始值为m_aRqtData[u32CuDepth].m_cEntropyCur,后面的SUBCU的初始值为m_modeDepth[i32NextDepth].bestMode->contexts

调用compressIntraCU检查SUBCU返回rdcost

保存SUBCU的编码数据，

调用检查SPLIT模式是否最佳

保存最佳模式的CU数据到帧级缓存，并保存recon图像

checkIntra流程

对当前CU大小做intra最佳预测的计算返回rdcost

getIntraTUQtDepthRange：根据参数设置的TU的最大最小size，以及设置的intraTU大小以及当前CU大小设置TU范围

estIntraPredQT：计算当前大小的CU的最佳模式的distortion(SSE)

对1或者4个PU(8x8的intraCU可以有4个PU)

算出35种模式的sadcost，记录最小的sadcost

以最小sadcost的1.25倍为限，选出最多u32MaxRdCandCount = 2 + m_pParam->rdLevel + ((u32Depth + u32InitTuDepth) >> 1)种cand模式

如果只有一个候选模式，则此模式为最佳模式

如果有多个候选模式，对每个候选模式调用codeIntraLumaQT编码(会记录rdcost)，记录最小的rdcost以及对应的bestMode

当前CU设置成bestMode，再次调用codeIntraLumaQT编码，

调用extractIntraResultQT将每个TU的coeff和recYUV复制出来

返回distortion(SSE)

调用estimateCuBitNum估计出最优模式下的bits

调用calcEnergyAndRdCost算出rdcost<