今天调试程序的时候发现一个问题,本来是在统计完整的64*64CU深度(AI配置)。统计了416*240的序列第一帧时(不统计边界的CU),发现结果是加起来是36个CU(应该只有18个64*64的CU)。最后发现是在DualITree : 1(亮度和色度单独进行划分,我之前只看过HEVC,以前帧内亮度和色度是一起划分的),因此在亮度和色度中均进行了统计,增加对亮度的判断即可。
partitioner.chType == CH_L
今天调试程序的时候发现一个问题,本来是在统计完整的64*64CU深度(AI配置)。统计了416*240的序列第一帧时(不统计边界的CU),发现结果是加起来是36个CU(应该只有18个64*64的CU)。最后发现是在DualITree : 1(亮度和色度单独进行划分,我之前只看过HEVC,以前帧内亮度和色度是一起划分的),因此在亮度和色度中均进行了统计,增加对亮度的判断即可。
partitioner.chType == CH_L