x265中模式选择中的rd判断
- checkMerge2Nx2N_rd0_4
- MergeCand的选择:sa8dCost = sa8d(fenc,pred) + lamda*bits
- skip/merge的比较:rdcost
- SPLIT与SKIP的比较:rdcost
- checkInter_rd0_4/checkBidir2Nx2N
- 运行ME,返回sa8d
- PRED_2Nx2N/RECT/AMP模式之间通过sa8dCost算最佳inter模式
- checkIntraInInter
- 通过sa8d选出35个模式中最优方向
- 在medium下,对SKIP/MERGE/INTER/PRED_BIDIR/INTRA通过rdcost选出最优;在fast下,对SKIP/MERGE/INTER/PRED_BIDIR/INTRA通过sa8dCost选出最优,再对最优模式编码
x265中CU SPLIT的快速检测
topSkipMinDepth 先确定要跳过的最开始的层
- 如果前后参考帧中对应的CU的深度为0,即以CTU直接编码,则当前CU的最小深度也为0
- 否则:统计CU在参考帧中对应位置的大小的CU的最小深度以及平均深度
1. 如果当前QP大小前向参考帧中对应的QP并且平均深度小于最小深度的1.5倍,返回最小深度-1
2. 否则返回最小深度