Analysis::checkInter_rd[0_4/5_6]()

最新推荐文章于 2023-12-13 16:45:16 发布
最新推荐文章于 2023-12-13 16:45:16 发布
阅读量559 收藏 6
点赞数 1
分类专栏： X265
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/lj501886285/article/details/105881500
版权

Analysis::checkInter_rd0_4()和Analysis::checkInter_rd5_6()函数高度相似，唯一的不同在其确定了CU中每个PU的最优预测后，计算当前CU的rdcost的方式

  • Analysis::checkInter_rd0_4()的计算方式是
  1. 计算fencYUV和predYUV计算distortion
  2. 计算interMode的bits = block_mode_bits + mvp_idx_bits + refIdx_bits + mvd_bits
  3. 通过distortion和bits计算rdcost
  • Analysis::checkInter_rd5_6()的计算方式是通过调用encodeResAndCalcRdInterCU()函数计算得到的
  1. 得到resiYUV = fencYUV - predYUV ，初始化上下文，并对残差进行变换、量化、编码，以及反量化、反变换来重建编码帧
  2. 计算bits = SkipFlag_bits + MergeIndex_bits
    或bits = SkipFlag_bits + PredMode_bits + PartSize_bits + PredInfo_bits + Coeff_bits
  3. 得到reconYUV，计算reconYUV和fencYUV的distortion
  4. 通过distortion和bits计算rdcost

也就是说，rdlevel5-6相比0-4，在计算distortion和bits上更加严谨，rdlevel0-4是的distortion和bits只是一个估算，而rdlevel5-6将所有的编码流程全部走完了，包括上下文初始化、对残差的编码、重建编码帧，严谨的计算distortion和bits

Analysis::checkInter_rd0_4()

/*
	计算rdlevel0~4下，当前CU在partSize划分下的最优预测（即每个PU的帧间预测信息），及其rdcost

	过程：
		1.初始化该预测模式下的cost
		2.设置partSize、设置predMode
		3.得到预测的方向个数
		4.若analysisLoad，则从m_reuseRef中载入refIdx
		5.若analysisMultiPassRefine，则从m_reuseRef、m_reuseMv及m_reuseMvpIdx中载入refIdx、MV及mvpIdx
		6.针对CU下的每个PU，得到其最佳帧间预测，即mergeFlag,mvpIdx,refIdx,mvd以及bits信息
		7.取原始YUV即预测的YUV，计算其distortion
		8.根据6中得到的bits和7中得到的distortion，计算其rdcost
		9.若analysisSave，则将6中得到的ref存储回m_reuseRef
*/
void Analysis::checkInter_rd0_4(Mode& interMode, const CUGeom& cuGeom, PartSize partSize, uint32_t refMask[2])
{
	//初始化interMode的cost
    interMode.initCosts();
	//设置partSize
    interMode.cu.setPartSizeSubParts(partSize);
	//设置pred mode
    interMode.cu.setPredModeSubParts(MODE_INTER);
	//单向预测 双向预测？
    int numPredDir = m_slice->isInterP() ? 1 : 2;

	//若analysisLoad && m_reuseInterDataCTU && analysisReuseLevel > 1 && analysisReuseLevel != 10，则从m_reuseRef载入ref
    if (m_param->analysisLoad && m_reuseInterDataCTU && m_param->analysisReuseLevel > 1 && m_param->analysisReuseLevel != 10)
    {
		//计算当前CU的ref在m_reuseRef存储的偏移量
        int refOffset = cuGeom.geomRecurId * 16 * numPredDir + partSize * numPredDir * 2;
        int index = 0;

		//得到当前CU的PU个数
        uint32_t numPU = interMode.cu.getNumPartInter(0);
		//针对每一个PU的每一个预测方向，载入其ref
        for (uint32_t part = 0; part < numPU; part++)
        {
            MotionData* bestME = interMode.bestME[part];
            for (int32_t i = 0; i < numPredDir; i++)
                bestME[i].ref = m_reuseRef[refOffset + index++];
        }
    }

	//若analysisMultiPassRefine && bStatRead && m_reuseInterDataCTU
    if (m_param->analysisMultiPassRefine && m_param->rc.bStatRead && m_reuseInterDataCTU)
    {
		//得到PU个数
        uint32_t numPU = interMode.cu.getNumPartInter(0);
		//针对每一个PU
        for (uint32_t part = 0; part < numPU; part++)
        {
            MotionData* bestME = interMode.bestME[part];
			//针对每个预测方向，载入ref,mv,mvpIdx到bestME中
            for (int32_t i = 0; i < numPredDir; i++)
            {
                int* ref = &m_reuseRef[i * m_frame->m_analysisData.numPartitions * m_frame->m_analysisData.numCUsInFrame];
          
				bestME[i].ref = ref[cuGeom.absPartIdx];
                bestME[i].mv = m_reuseMv[i][cuGeom.absPartIdx].word;
                bestME[i].mvpIdx = m_reuseMvpIdx[i][cuGeom.absPartIdx];
            }
        }
    }

	//对CU的每一个PU都进行最优帧间预测决定，得到每个PU的mergeFlag,mvpIdx,refIdx,mvd等，并累加上其bits
    predInterSearch(interMode, cuGeom, m_bChromaSa8d && (m_csp != X265_CSP_I400 && m_frame->m_fencPic->m_picCsp != X265_CSP_I400), refMask);

    /* predInterSearch sets interMode.sa8dBits */

	//取原始的YUV和预测的YUV
    const Yuv& fencYuv = *interMode.fencYuv;
    Yuv& predYuv = interMode.predYuv;

    int part = partitionFromLog2Size(cuGeom.log2CUSize);
    //计算luma的distortion
	interMode.distortion = primitives.cu[part].sa8d(fencYuv.m_buf[0], fencYuv.m_size, predYuv.m_buf[0], predYuv.m_size);
    //若有色度且m_bChromaSa8d，则累加chroma的distortion
	if (m_bChromaSa8d && (m_csp != X265_CSP_I400 && m_frame->m_fencPic->m_picCsp != X265_CSP_I400))
    {
        interMode.distortion += primitives.chroma[m_csp].cu[part].sa8d(fencYuv.m_buf[1], fencYuv.m_csize, predYuv.m_buf[1], predYuv.m_csize);
        interMode.distortion += primitives.chroma[m_csp].cu[part].sa8d(fencYuv.m_buf[2], fencYuv.m_csize, predYuv.m_buf[2], predYuv.m_csize);
    }
	//根据distortion和bits计算rdcost
    interMode.sa8dCost = m_rdCost.calcRdSADCost((uint32_t)interMode.distortion, interMode.sa8dBits);

	//若analysisSave && m_reuseInterDataCTU && analysisReuseLevel>1，则将计算得到的ref存储到m_reuseRef中
    if (m_param->analysisSave && m_reuseInterDataCTU && m_param->analysisReuseLevel > 1)
    {
		//找到当前CU在m_reuseRef中的偏移量
        int refOffset = cuGeom.geomRecurId * 16 * numPredDir + partSize * numPredDir * 2;
        int index = 0;
		//取CU的PU个数
        uint32_t numPU = interMode.cu.getNumPartInter(0);
		//针对每一个PU的每一个预测方向，将其ref存储回m_reuseRef中
        for (uint32_t puIdx = 0; puIdx < numPU; puIdx++)
        {
            MotionData* bestME = interMode.bestME[puIdx];
            for (int32_t i = 0; i < numPredDir; i++)
                m_reuseRef[refOffset + index++] = bestME[i].ref;
        }
    }
}

Analysis::checkInter_rd5_6()

/*
	计算rdlevel5~6下，当前CU在partSize划分下的最优预测（即每个PU的帧间预测信息），及其rdcost

	过程：
		1.初始化该预测模式下的cost
		2.设置partSize、设置predMode
		3.得到预测的方向个数
		4.若analysisLoad，则从m_reuseRef中载入refIdx
		5.若analysisMultiPassRefine，则从m_reuseRef、m_reuseMv及m_reuseMvpIdx中载入refIdx、MV及mvpIdx
		6.针对CU下的每个PU，得到其最佳帧间预测，即mergeFlag,mvpIdx,refIdx,mvd以及bits信息
		7.为当前CU进行残差编码，并计算rdcost
		8.若analysisSave，则将6中得到的ref存储回m_reuseRef
*/
void Analysis::checkInter_rd5_6(Mode& interMode, const CUGeom& cuGeom, PartSize partSize, uint32_t refMask[2])
{
	//初始化cost
    interMode.initCosts();
    //设置partSize
	interMode.cu.setPartSizeSubParts(partSize);
    //设置predMode
	interMode.cu.setPredModeSubParts(MODE_INTER);
	//得到预测方向的个数
    int numPredDir = m_slice->isInterP() ? 1 : 2;

	//若analysisLoad && m_reuseInterDataCTU && analysisReuseLevel > 1 && m_param->analysisReuseLevel != 10，则从m_reuseRef载入ref
    if (m_param->analysisLoad && m_reuseInterDataCTU && m_param->analysisReuseLevel > 1 && m_param->analysisReuseLevel != 10)
    {
		//计算当前CU的ref在m_reuseRef存储的偏移量
        int refOffset = cuGeom.geomRecurId * 16 * numPredDir + partSize * numPredDir * 2;
        int index = 0;

		//得到当前CU的PU个数
        uint32_t numPU = interMode.cu.getNumPartInter(0);
		//针对每一个PU的每一个预测方向，载入其ref
        for (uint32_t puIdx = 0; puIdx < numPU; puIdx++)
        {
            MotionData* bestME = interMode.bestME[puIdx];
            for (int32_t i = 0; i < numPredDir; i++)
                bestME[i].ref = m_reuseRef[refOffset + index++];
        }
    }

	//若analysisMultiPassRefine && bStatRead && m_reuseInterDataCTU
    if (m_param->analysisMultiPassRefine && m_param->rc.bStatRead && m_reuseInterDataCTU)
    {
		//得到PU个数
        uint32_t numPU = interMode.cu.getNumPartInter(0);
		//针对每一个PU
        for (uint32_t part = 0; part < numPU; part++)
        {
            MotionData* bestME = interMode.bestME[part];
			//针对每个预测方向，载入ref,mv,mvpIdx到bestME中
            for (int32_t i = 0; i < numPredDir; i++)
            {
                int* ref = &m_reuseRef[i * m_frame->m_analysisData.numPartitions * m_frame->m_analysisData.numCUsInFrame];
                bestME[i].ref = ref[cuGeom.absPartIdx];
                bestME[i].mv = m_reuseMv[i][cuGeom.absPartIdx].word;
                bestME[i].mvpIdx = m_reuseMvpIdx[i][cuGeom.absPartIdx];
            }
        }
    }

	对CU的每一个PU都进行最优帧间预测决定，得到每个PU的mergeFlag,mvpIdx,refIdx,mvd等，并累加上其bits
    predInterSearch(interMode, cuGeom, m_csp != X265_CSP_I400 && m_frame->m_fencPic->m_picCsp != X265_CSP_I400, refMask);

    /* predInterSearch sets interMode.sa8dBits, but this is ignored */
	//为当前CU进行残差编码，并计算rdcost
    encodeResAndCalcRdInterCU(interMode, cuGeom);

	//若analysisSave && m_reuseInterDataCTU && analysisReuseLevel>1，则将计算得到的ref存储到m_reuseRef中
    if (m_param->analysisSave && m_reuseInterDataCTU && m_param->analysisReuseLevel > 1)
    {
		//找到当前CU在m_reuseRef中的偏移量
        int refOffset = cuGeom.geomRecurId * 16 * numPredDir + partSize * numPredDir * 2;
        int index = 0;
		//取CU的PU个数
        uint32_t numPU = interMode.cu.getNumPartInter(0);
		//针对每一个PU的每一个预测方向，将其ref存储回m_reuseRef中
        for (uint32_t puIdx = 0; puIdx < numPU; puIdx++)
        {
            MotionData* bestME = interMode.bestME[puIdx];
            for (int32_t i = 0; i < numPredDir; i++)
                m_reuseRef[refOffset + index++] = bestME[i].ref;
        }
    }
}
JahnLiang
关注
专栏目录
x265编码器 compressInterCU_rd0_4 函数分析
想都是问题，做才有答案～～
10-22 2207
x265编码器 compressInterCU_rd0_4 函数分析
x265编码器 checkMerge2Nx2N_rd0_4 函数分析
想都是问题，做才有答案～～
10-24 701
x265中checkMerge2Nx2N_rd0_4()分析
HEVC代码学习12：xCheckRDCostInter函数
慢慢积累
05-17 3763
之前的xCompressCU函数学习中，我们知道帧间每一个模式的选择都会调用xCheckRDCostInter函数，下面就来具体学习一下。 xCheckRDCostInter主要的功能是，进行帧间搜索，计算当前CU划分模式的RDcostCreated with Raphaël 2.1.0xCheckRDCostInterpredInterSearch：帧间搜索encodeResAndCalcRdI
HEVC---CompressCU 函数解析
rs勿忘初心的博客
05-09 1199
看过好几次CompressCU函数，都是一知半解。这次要做的是把模式保留下来，可以减少熵编码的比特数。这样就必须彻底的弄清楚CU的递归的划分也就是xcompressCU这个函数。这样才知道什么时候保存需要的模式，保存到哪里去，以什么形式存储，在熵编码的时候如何对PU的模式进行索引。1.xCompressCU 函数的调用在编码一个片的函数CompressSlice 函数中有这个几行代码     //...
【x265编码器】章节3——x265帧内预测流程
vcvdv123的博客
08-28 3万+
本章对x265的帧内预测流程做了分析
X265编码核心函数分析
dragon_dy的博客
02-01 1966
X265编码核心函数分析 compressCTU流程 m_bChromaSa8d = m_pParam->rdLevel >= 3; 计算i32CtuQp m_aRqtData[0].m_cEntropyCur.load(cInitEntrConxt); 初始化熵编码环境.推测先做下一层时，要加载下一层的初始环境 对I_SLICE，调compressIntraCU 根据rd设置，调用...
ImportError: No module named _bootlocale解决方案
最新发布
水滴的博客
12-13 4896
大家好，我是水滴~~本文主要介绍ImportError: No module named _bootlocale问题的解决方案，希望能对你有所帮助。
Hive FAILED: SemanticException Column report_time Found in more than One Tables/Subqueries
Top5软件工程硕士，先后在京东、字节从事多年Java后端开发、实时和离线大数据开发
09-02 2827
在字段前加上表别名 select report_time from tmp.test_1030_external_dt t1 where report_time not in ( select report_time from tmp.test_1031_external_dt ); --FAILED: SemanticException Column report_time Found in more than One Tables/Subqueries select t1.report_t..
更新:Portfolio_Analysis:Bivariate analysis
Why的博客
03-14 2310
实证资产定价（Empirical asset pricing）已经发布于Github和Pypi. 包的具体用法(Documentation)博主将会陆续在CSDN中详细介绍，也可以通过Pypi直接查看。 Pypi: pip install --upgrade EAP Github: GitHub - whyecofiliter/EAP: empirical asset pricing 此次更新了投资组合分析中二项组合分析Bivariate. 此次添加了条件双重排序，具体类说明和demo如下。 im
innovus: set_ccopt_property的基本用法（上）
m0_61544122的博客
11-01 2917
我正在「拾陆楼」和朋友们讨论有趣的话题，你⼀起来吧？
基于 HAProxy + Keepalived 搭建 RabbitMQ 高可用集群
Boone的博客
02-28 1043
基于 HAProxy + Keepalived 搭建高可用 RabbitMQ 集群
x265 帧间预测
这个人很懒什么都没有~
12-04 1408
x275 帧间预测原流程梳理，包括CTU划分、Merge/Skip、AMVP计算，运动估计，运动补偿、亚像素差值等等。
Analysis::compressCTU()
workspace
04-07 920
x265编码器在编码一帧时以行为单位进行WPP编码，一行一个线程，每个线程分别对自己的行中每个CTU进行compressCTU压缩分析 /* 压缩分析CTU 过程： 1.为当前CTU加载QP/熵编码上下文 2.是否有编码信息输入来方便快速最优模式分析 ·bCTUInfo，加载depth/content/prevCtuInfoChange ·analysisMultiPassRef...
CompressCU函数:LCU的编码，包括CU的划分，PU模式的决定，TU的划分
宁静致远
12-21 3703
看过好几次CompressCU函数，都是一知半解。这次要做的是把模式保留下来，可以减少熵编码的比特数。这样就必须彻底的弄清楚CU的递归的划分也就是xcompressCU这个函数。这样才知道什么时候保存需要的模式，保存到哪里去，以什么形式存储，在熵编码的时候如何对PU的模式进行索引。 1.xCompressCU 函数的调用 在编码一个片的函数CompressSlice 函数中有这个几行代
HAProxy入门(一)
GwinselF
09-05 633
Haproxy入门实践 1.Haproxy基本概念 1.什么是Haproxy 它仅提供proxy代理功能,不提供任何HA高可用的功能 但Haproxy可对后端节点进行状态检查,一旦后端节点出现故障,haproxy则会将请求重新分发. 2.Haproxy应用场景 Haproxy支持http反向代理 Haproxy支持动态程序的反向代理 Haproxy支持基于tcp数据库的反向代理 2.Haproxy安装 2.1使用yum命令安装rpm包 CentOS7默认的base仓库中包含haproxy的安装文
x265中Encode流程
cyril1121的博客
05-24 1514
有return的情况下try catch finally的执行顺序（最有说服力的总结）
热门推荐
我只是坚持我的兴趣。
10-13 23万+
结论： 1、不管有木有出现异常，finally块中代码都会执行； 2、当try和catch中有return时，finally仍然会执行； 3、finally是在return后面的表达式运算后执行的（此时并没有返回运算后的值，而是先把要返回的值保存起来，管finally中的代码怎么样，返回的值都不会改变，任然是之前保存的值），所以函数返回值是在finally执行前确定的； 4、finally
x265预测入口
lieToMe7702的博客
01-28 373
x265的RowEncoder会对接管的slice(条带)以光栅顺序依次处理各个CTU，预测搜索得到对应的最近划分模式。实际入口位于Mode& Analysis::compressCTU函数中 是--否01~45~6Analysis::compressCTUm_slice->m_sliceType == I_SLICEAnalysis::compressIntraCUm_param...
formData: { title: '', analysis: "", analysis_find_address: "", analysis_find_address_city: "", analysis_find_address_city_count: "", analysis_find_address_district_count: "", analysis_find_address_province: "", analysis_find_address_province_count: "", // analysis_hashcode: "", analysis_hashtag: "", analysis_info_src_lv_name: "", analysis_mentions: "", analysis_sentiment: "", author: "", bullet_count: "", channel: "", coins_count: "", collection_count: "", content: "", created_at: "", analysis_find_address_province: "", ctime: "", title: '', device: "", duration: "", floor_number: "", gather: "",}像这些字段 后端传过来的没有数据为空 怎么隐藏
07-16
您可以使用v-if指令来根据后端传递的数据是否为空来隐藏对应的字段。具体步骤如下： 1. 首先，在需要隐藏的字段上添加v-if指令，并将其绑定到后端传递的数据上，例如： ```html <p v-if="formData.analysis">{{ formData.analysis }}</p> ``` 2. 在Vue.js中，您可以在data属性中定义一个变量来存储后端传递的数据。然后，在模板中使用这个变量进行判断，例如： ```javascript data() { return { formData: { analysis: null, // 其他字段... } }; } ``` 3. 现在，您可以使用computed属性来判断后端传递的数据是否为空，并将结果保存在一个新的变量中。然后，您可以在模板中使用这个变量来控制是否显示该字段，例如： ```javascript computed: { isAnalysisEmpty() { return !this.formData.analysis; } } ``` 4. 最后，在模板中使用v-if指令来根据isAnalysisEmpty变量的值来决定是否显示该字段，例如： ```html <p v-if="!isAnalysisEmpty">{{ formData.analysis }}</p> ``` 通过这样的方式，如果后端传递的数据为空，对应的字段将被隐藏。您可以按照上述步骤为其他需要隐藏的字段进行设置。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值