VTM10.0代码学习17：xCheckRDCostInter()&xCheckRDCostInterIMV()

最新推荐文章于 2021-07-01 17:41:23 发布
最新推荐文章于 2021-07-01 17:41:23 发布
阅读量1.3k 收藏 9
点赞数 4
分类专栏： VVC代码学习-编码端
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/hjhyxq2014/article/details/117447057
版权
本文详细解析了VTM10.0编码器中帧间预测的两个关键函数xCheckRDCostInter和xCheckRDCostInterIMV，涉及BCW权重测试、AMVP过程、运动估计等。通过对循环遍历BCW、预处理、预测和残差编码等步骤的分析，揭示了帧间模式选择的决策逻辑。
摘要由CSDN通过智能技术生成

此系列是为了记录自己学习VTM10.0的过程，目前正在看编码端。主要的参考文档有JVET-S2001-vH和JVET-S2002-v1。由于本人水平有限，出现的错误恳请大家指正。如果觉得我的文章对您有帮助的话，不妨点赞收藏加关注，谢谢！！


上次更新博客已是两个月前了，这两个月被internship反复折磨，但收获也是不少。现在终于结束了！！想到的第一件事就是赶快更博客，大家千万别取关/(ㄒoㄒ)/~。从这篇博客就开始讲有关帧间的内容了，不知道大家还记不记得之前的博客(VTM10.0代码学习11)，末尾就是对当前CU进行各种模式的测试。看标题就知道这次要说的是xCheckRDCostInter()和CheckRDCostInterIMV()。这是有关AMVP的函数，大家也都知道帧间主要内容可以分成merge和AMVP。这两个函数还同时包括affine的AMVP，唯一的区别就是开不开启AMVR。帧内剩余的三个函数是：xCheckRDCostMerge2Nx2N（非affine的merge）、xCheckRDCostAffineMerge2Nx2N（affine的merge）、xCheckRDCostMergeGeo2Nx2N（GPM，是特殊的merge模式，比较复杂就用独立函数处理）。目前的打算是下一篇就开始讲xCheckRDCostMerge2Nx2N，同时也是本系列的终点了！！废话不多说，这就开始本篇内容


1. xCheckRDCostInter

由于无论是RA和LD的CTC都是不开启WP，所以帧间中有关WP的代码之后都会自动略去。

tempCS->initStructData( encTestMode.qp );

m_pcInterSearch->setAffineModeSelected(false);

if( tempCS->slice->getCheckLDC() )
{
   
    m_bestBcwCost[0] = m_bestBcwCost[1] = std::numeric_limits<double>::max();
    m_bestBcwIdx[0] = m_bestBcwIdx[1] = -1;
}

m_pcInterSearch->resetBufferedUniMotions();
int bcwLoopNum = (tempCS->slice->isInterB() ? BCW_NUM : 1);
bcwLoopNum = (tempCS->sps->getUseBcw() ? bcwLoopNum : 1);

if( tempCS->area.lwidth() * tempCS->area.lheight() < BCW_SIZE_CONSTRAINT )
{
   
    bcwLoopNum = 1;
}

double curBestCost = bestCS->cost;//当前CU目前的最佳RDcost
double equBcwCost = MAX_DOUBLE;//不开启BCW时的RDcost

m_bestModeUpdated = tempCS->useDbCost = bestCS->useDbCost = false;

initStructData()：重置tempCS

setAffineModeSelected()：重置m_affineModeSelected，为true表示affine被选为最佳模式

第一个if分支：当前帧为low-delay时会用到m_bestBcwCost和m_bestBcwIdx，所以需要先重置

bcwLoopNum：表示需要测试的BCW权重的次数

curBestCost：当前CU之前的最佳RDcost

equBcwCost：不开启BCW时的RDcost


for( int bcwLoopIdx = 0; bcwLoopIdx < bcwLoopNum; bcwLoopIdx++ )
{
   
}

for循环：遍历BCW的5种权重，具体参考1.1小节


1.1 循环遍历BCW

if( m_pcEncCfg->getUseBcwFast() )
{
   
    auto blkCache = dynamic_cast< CacheBlkInfoCtrl* >(m_modeCtrl);

    if( blkCache )
    {
   
        bool isBestInter = blkCache->getInter(bestCS->area);
        uint8_t bestBcwIdx = blkCache->getBcwIdx(bestCS->area);

        if( isBestInter && g_BcwSearchOrder[bcwLoopIdx] != BCW_DEFAULT && g_BcwSearchOrder[bcwLoopIdx] != bestBcwIdx )
        {
   
            continue;
        }
    }
}
if( !tempCS->slice->getCheckLDC() )
{
   
    if( bcwLoopIdx != 0 && bcwLoopIdx != 3 && bcwLoopIdx != 4 )
    {
   
        continue;
    }
}

第一个if分支：CTC一般默认开启BCW的快速算法，这里表示当CU目前的最佳模式为帧间时，不测试均等权重和最佳BCW权重之外的权重

第二个if分支：如果当前帧不为low-delay时，只测试BCW的三种全权重，跳过其余两种


CodingUnit &cu      = tempCS->addCU( tempCS->area, partitioner.chType );

partitioner.setCUData( cu );
cu.slice            = tempCS->slice;
cu.tileIdx          = tempCS->pps->getTileIdx( tempCS->area.lumaPos() );
cu.skip             = false;
cu.mmvdSkip = false;
cu.predMode         = MODE_INTER;
cu.chromaQpAdj      = m_cuChromaQpOffsetIdxPlus1;
cu.qp               = encTestMode.qp;
CU::addPUs( cu );

cu.BcwIdx = g_BcwSearchOrder[bcwLoopIdx];
uint8_t bcwIdx = cu.BcwIdx;
bool  testBcw = (bcwIdx != BCW_DEFAULT);//为true表示开启BCW

这段主要用来设置CU

bcwIdx：当前测试的BCW权重

testBcw：为true表示开启BCW


m_pcInterSearch->predInterSearch( cu, partitioner );//进行AMVP的帧间预测

bcwIdx = CU::getValidBcwIdx(cu);
if( testBcw && bcwIdx == BCW_DEFAULT ) // Enabled Bcw but the search results is uni.
{
   
    tempCS->initStructData(encTestMode.qp);
    continue;
}

bool isEqualUni = false;
if( m_pcEncCfg->getUseBcwFast() )
{
   
    if( cu.firstPU->interDir != 3 && testBcw == 0 )
    {
   
        isEqualUni = true;
    }
}

predInterSearch()：进行AMVP的帧间预测，具体参考第3大节，里面的RDcost都是化简的

isEqualUni：为true表示不开启BCW时最佳模式为单向预测


xEncodeInterResidual( tempCS, bestCS, partitioner, encTestMode, 0
                     , 0
                     , &equBcwCost
                    );

if( g_BcwSearchOrder[bcwLoopIdx] == BCW_DEFAULT )
    m_pcInterSearch->setAffineModeSelected((bestCS->cus.front()->affine && !(bestCS->cus.front()->firstPU->mergeFlag)));

tempCS->initStructData(encTestMode.qp);

double skipTH = MAX_DOUBLE;
skipTH = (m_pcEncCfg->getUseBcwFast() ? 1.05 : MAX_DOUBLE);
if( equBcwCost > curBestCost * skipTH )
{
   
    break;
}

if( m_pcEncCfg->getUseBcwFast() )
{
   
    if( isEqualUni == true && m_pcEncCfg->getIntraPeriod() == -1 )
    {
   
        break;
    }
}
if( g_BcwSearchOrder[bcwLoopIdx] == BCW_DEFAULT && xIsBcwSkip(cu) && m_pcEncCfg->getUseBcwFast() )
{
   
    break;
}

xEncodeInterResidual()：进行RDcost计算，抉择出最佳帧间模式，还包含对SBT的RD决策过程,实际RDcost计算是通过调用encodeResAndCalcRdInterCU。encodeResAndCalcRdInterCU包含对MTS的RD决策过程

第一个if分支：设置m_affineModeSelected

第二个if分支：不开启BCW时的RDcost如果超过之前的最佳RDcost的1.05倍，就跳过之后BCW的权重测试

第三个if分支：当序列中只有第一帧是I帧时，如果不开启BCW时最佳模式为单向预测，就跳过之后BCW的权重测试

第四个if分支：满足一定条件，就跳过之后BCW的权重测试


2. xCheckRDCostInterIMV

与xCheckRDCostInter差别不大，就只讲不同点

int iIMV = int( ( encTestMode.opts & ETO_IMV ) >> ETO_IMV_SHIFT );
const bool testAltHpelFilter = iIMV == 4;//是否在测试半像素精度

testAltHpelFilter:是否在测试半像素精度


2.1 循环遍历BCW

if( m_pcEncCfg->getUseBcwFast() && tempCS->slice->getCheckLDC() && g_BcwSearchOrder[bcwLoopIdx] != BCW_DEFAULT
   && (m_bestBcwIdx[0] >= 0 && g_BcwSearchOrder[bcwLoopIdx] != m_bestBcwIdx[0])
   && (m_bestBcwIdx[1] >= 0 && g_BcwSearchOrder[bcwLoopIdx] != m_bestBcwIdx[1]))
{
   
    continue;
}

如果当前帧是low-delay，只能测试不开启AMVR时最好的两次RDcost下的BCW权重还有默认权重


if (testAltHpelFilter)
{
   
    cu.imv = IMV_HPEL;
}
else
{
   
    cu.imv = iIMV == 1 ? IMV_FPEL : IMV_4PEL;
}

非affine下imv可以为0，1，2，3，分别为1/4，1，4，1/2像素精度；affine下imv可以为0，1，2，分别为1/4，1/16，1像素精度


bool affineAmvrEanbledFlag = !testAltHpelFilter && cu.slice->getSPS()->getAffineAmvrEnabledFlag();
if ( !CU::hasSubCUNonZeroMVd( cu ) && !CU::hasSubCUNonZeroAffineMVd( cu ) )
{
   
    if (m_modeCtrl->useModeResult(encTestModeBase, tempCS, partitioner))
    {
   
        std::swap(tempCS, bestCS);
        // store temp best CI for next CU coding
        m_CurrCtx->best = m_CABACEstimator->getCtx();
    }
    if ( affineAmvrEanbledFlag )
    {
   
        tempCS->initStructData( encTestMode.qp );
        continue;
    }
    else
    {
   
        return false;
    }
}

这段有点不明白就先不说了


3. predInterSearch

3.1 预备变量

CodingStructure& cs = *cu.cs;

//AMVP列表的暂时变量
AMVPInfo     amvp[2];
Mv           cMvSrchRngLT;
Mv           cMvSrchRngRB;

Mv           cMvZero;

// RPL0/1各自单向预测时的最佳情况下的MV
Mv           cMv[2];
// 双向预测时的最佳情况下的MV
Mv           cMvBi[2];
Mv           cMvTemp[
最低0.47元/天 解锁文章
柴门风雪夜
关注
专栏目录
VTM3.0代码阅读：xCheckRDCostInter函数
矛盾统一
12-27 520
xCheckRDCostInter函数在xCompressCU中被调用，用来check普通帧间模式，也就是inter_ME模式。 inter_ME模式通过AMVP得到相邻块中的最优的两个运动信息，以此作为运动估计的起始点，然后经过ME，获得MVP和MVD等inter运动信息。 在通过ME得到运动信息之后，即MVP之后，通过MC得到pred像素。这些都在predInterSearch函数中实现。(p...
HEVC参考软件HM源码分析--帧间预测（2）--xCheckRDCostInter
qq_40934347的博客
10-27 552
这篇文章对xCompressCU中的一个核心子函数xCheckRDCostInter函数进行介绍。对xCompressCU函数的详细介绍见楼主上一篇博客 https://blog.csdn.net/qq_40934347/article/details/102716826. 函数作用： xCompressCU函数完成的是从众多帧间划分模式、以及帧内、PCM模式中选择最优CU模式的工作，而对于每一个...
xCheckRDCostInter
Moz_z的专栏
10-03 1081
//xCheckRDCostInter( rpcBestCU, rpcTempCU, SIZE_2Nx2N ); #if AMP_MRG//< encoder only force merge for AMP partition (no motion search for AMP) Void TEncCu::xCheckRDCostInter( TComDataCU*& rpcBestCU, TC
H.266/VVC代码学习:xCheckRDCostInter函数
BigDream123的博客
07-01 1683
xCheckRDCostInter函数主要是用来检查inter模式的，包括常规AMVP模式和Affine AMVP模式。该函数主要是通过调用predInterSearch实现对常规AMVP模式和Affine AMVP模式检查的，其调用关系如下所示： 在xCheckRDCostInter函数，遍历所有的BCW权重，对于每个BCW权重，调用predInterSearch找到最优的运动信息，并通过xEncodeInterResidual对预测残差进行变换量化。最后，通过xCalDebCost函数计算最终的C
VVC xCheckRDCostInterMV框架结构分析
weixin_42877471的博客
02-22 371
VTM10.0代码学习1：DecApp_decode()
hjhyxq2014的博客
10-08 2991
此系列是为了记录自己学习VTM10.0的过程和锻炼表达能力，主要是从解码端进行入手。由于本人水平有限，出现的错误恳请大家指正，欢迎与大家一起交流进步。 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-aSQsOeUL-1602146705625)(https://hjhyxq2014-blog-images.oss-cn-beijing.aliyuncs.com/img/DecApp_decode()].png) 1.初始化 int poc;.
VTM10.0代码学习16：estIntraPredChromaQT()
hjhyxq2014的博客
04-04 691
此系列是为了记录自己学习VTM10.0的过程，目前正在看编码端。主要的参考文档有JVET-S2001-vH和JVET-S2002-v1。由于本人水平有限，出现的错误恳请大家指正，欢迎与大家一起交流进步。 前两篇博文(VTM10.0代码学习14和VTM10.0代码学习15)讲述了如何抉择出亮度的最佳帧内模式，本篇博文就来看看色度部分的函数estIntraPredChromaQT()，会比亮度部分简单一些 1. estIntraPredChromaQT const ChromaFormat format.
VTM10.0代码学习10：EncGOP_compressGOP()
hjhyxq2014的博客
01-25 2149
此系列是为了记录自己学习VTM10.0的过程，目前正在看编码端。主要的参考文档有JVET-S2001-vH和JVET-S2002-v1。由于本人水平有限，出现的错误恳请大家指正，欢迎与大家一起交流进步。 上一篇博文(VTM10.0代码学习9)提到compressGOP()，这个函数由于涉及到slice的设置，十分地冗长，足足有1700多行。在解码端也有类似的部分，就在本系列的第二篇博文(VTM10.0代码学习2)提到。刚看VTM没多久的我又怎能啃下这块硬骨头，就战略性跳过很多内容了。现在稍微有些底气来.
VTM10.0代码学习7：decompressCtu()&xReconIntraQT()
hjhyxq2014的博客
12-02 680
此系列是为了记录自己学习VTM10.0的过程和锻炼表达能力，主要是从解码端进行入手。由于本人水平有限，出现的错误恳请大家指正，欢迎与大家一起交流进步。 之前的博文(VTM10.0代码学习3)提到两个重要的函数coding_tree_unit()和decompressCtu()，coding_tree_unit()已经说过了，本篇博文就来讲解一下decompressCtu()。这个函数是利用coding_tree_unit()得到的语义信息来重构CTU块，涉及到多种预测模式。前面也提到过VTM中主要将预.
HEVC代码学习12：xCheckRDCostInter函数
慢慢积累
05-17 3779
之前的xCompressCU函数学习中，我们知道帧间每一个模式的选择都会调用xCheckRDCostInter函数，下面就来具体学习一下。 xCheckRDCostInter主要的功能是，进行帧间搜索，计算当前CU划分模式的RDcostCreated with Raphaël 2.1.0xCheckRDCostInterpredInterSearch：帧间搜索encodeResAndCalcRdI
VTM1.0代码阅读：xCheckRDCostInter函数
矛盾统一
12-26 359
xCheckRDCostInter函数在xCompressCU中被调用，用来测试普通帧间模式，也就是inter_ME模式。 inter_ME模式通过AMVP得到相邻块中的最优的两个运动信息，以此作为运动估计的起始点，然后经过ME，获得MVP和MVD等inter运动信息。 在通过ME得到运动信息之后，即MVP之后，通过MC得到pred像素。这些都在predInterSearch函数中实现。(pred...
VTM3.0代码阅读：xCheckRDCostIntra函数
矛盾统一
12-27 678
xCheckRDCostIntra为帧内预测的总入口函数，在xCompressCU函数中被调用，用来check帧内预测模式，获取intra模式的最优帧内模式的数据。 其中调用estIntraPredLumaQT函数和estIntraPredChromaQT函数，分别获得最优亮度帧内模式和色度帧内模式。 函数相比于VTM1中基本没有变化，函数流程一样。 void EncCu::xCheckRDCos...
HTM-16.2代码（4）——xCheckRDCostInter
Eyrane的博客
12-30 874
主要流程如下： （1）得到当前的深度。 （2）调用predInterSearch，进行ME（运动估计）和MC（运动补偿）。 （3）调用encodeResAndCalcRdInterCU，根据预测值，求出残差，然后进行TU的划分，然后进行变换、量化等操作以及RD代价的计算。 （4）调用xCheckBestMode选择最好的模式。...
HM16.0之帧间预测——xCheckRDCostInter()函数
weixin_30702413的博客
06-09 439
参考：https://blog.csdn.net/nb_vol_1/article/category/6179825/1? 1、源代码： #if AMP_MRG Void TEncCu::xCheckRDCostInter( TComDataCU*& rpcBestCU, TComDataCU*& rpcTempCU, PartSize ePartSize DEBUG_S...
VVC/JEM代码学习18：xCheckRDCostInter
小小柴的博客
04-01 837
在xCheckRDCostMerge2N*2N执行完，如果m_useEarlySkipDetection==false,则继续执行xCheckRDCostInter函数。（如果m_useEarlySkipDetection==true,则此函数在帧间的最开始执行）#if AMP_MRG Void TEncCu::xCheckRDCostInter( TComDataCU*&amp; rpcBest...
H.266/VVC代码学习：xCheckRDCostIntra函数
BigDream123的博客
11-17 2565
xCheckRDCostIntra函数主要是选出最佳帧内模式和变换类型。 其中通过调用estIntraPredLumaQT函数遍历所有的亮度帧内预测模式选出最佳亮度帧内预测模式，通过调用estIntraPredChromaQT函数选出最佳色度帧内预测模式。 xCheckRDCostIntra函数是遍历了所有的变换模式并计算相应的RD Cost。 主要分为两个阶段 阶段1：mts_flag标...
H.266代码学习：xCheckRDCostIntra函数
慢慢积累
05-22 2331
今天来看帧内预测的入口函数xCheckRDCostIntra。JEM整体代码框架和HM是相同的，帧内预测代码框架可参考 HEVC代码学习37：帧内预测代码整体学习。 xCheckRDCostIntra在xCompressCU中被调用，进行帧内预测。 JEM与HM主要区别： 这一部分，相对HM没有什么重大改动。 流程如下： 主要流程可以分为5个部分： 1.初始化，设置子块信息。 2....
H266：xCheckRdCostInter（）到xPredInterUni（）流程
Moomin的博客
04-16 817
rpcTempCU-&gt;setICFlagSubParts(bICFlag, 0, uiDepth); xCheckRDCostInter() Bool bICFlag = rpcTempCU-&gt;getICFlag( 0 ); if( bIMV &amp;&amp; pcCUInfo2Reuse != NULL )//若信息可以重复使用，则无需进行帧间预测 { rpcTempCU-&...
VTM1.0代码阅读：xCheckRDCostIntra函数
矛盾统一
12-26 355
xCheckRDCostIntra为帧内预测的总入口函数。 xCheckRDCostIntra在xCompressCU函数中被调用，用来计算帧内预测模式，获取intra模式的最优帧内模式的数据 其中调用estIntraPredLumaQT函数和estIntraPredChromaQT函数，分别获得最优亮度帧内模式和色度帧内模式。 void EncCu::xCheckRDCostIntra( Cod...
VTM码率控制——代码学习二
最新发布
09-19
VTM码率控制的代码学习二主要包括以下步骤： 1. 调用`EncApp::encode()`函数，该函数会调用`EncApp::xcreatedLib()`函数。 2. `EncApp::xcreatedLib()`函数会调用`EncLib::create()`函数，该函数中会调用`m_cRateCtrl.init()`进行码率控制模块的初始化，包括确定GOP中每一帧的权重和整体目标比特率等。 3. `EncApp::encode()`函数会继续调用`EncLib::encode()`函数，并在其中调用`initRCGOP()`函数进行GOP级码率控制的初始化，主要计算GOP级目标比特率和各帧比特分配权重，并对GOP中的每一帧进行比特预分配。 4. `EncLib::encode()`函数调用`EncGop::compressGOP()`函数，并在其中调用`initRCPic(frameLevel)`函数进行帧级码率控制的初始化，计算该帧的目标比特率和头信息比特率，并对帧中的每个LCU进行初始化。 5. `EncGop::compressGOP()`函数调用`estimatePicLambda()`和`estimatePicQP()`函数，计算每一帧的平均lambda和平均QP。 6. `EncLib::encode()`函数在调用`EncGop::compressGOP()`之后，调用各种`updateAfterPicture()`函数对帧级参数进行更新。 7. `EncGop::compressGOP()`函数调用`EncSlice::compressSlice()`函数，在其中调用`EncSlice::encodeCtus()`函数，该函数会调用`getLCUTargetBpp()`、`getLCUEstLambda()`和`getLCUEstQP()`函数，计算CTU的目标比特率、lambda和编码QP值。 8. `EncSlice::encodeCtus()`函数调用`updateAfterCTU()`函数，对LCU级参数进行更新。
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值