HEVC学习之琐事（三）：TEncCu::compressCU

最新推荐文章于 2021-05-13 09:52:06 发布
最新推荐文章于 2021-05-13 09:52:06 发布
阅读量2.8k 收藏 11
点赞数 4
分类专栏： HEVC之HM
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/FRD2009041510/article/details/40888141
版权
本文详细介绍了HEVC编码过程中的关键函数TEncCu::compressCU，包括Input、初始化CU数据以及CU分析。在初始化CU数据阶段，涉及CU归属设置和邻居CU的设定；在CU分析阶段，主要任务是获取图片YUV数据、计算BaseQP、检查所有可能的QP，并判断Slice起始或结束位置。xCompressCU函数是压缩的核心，用于尝试不同预测模式和QP，以找到最佳编码方案。
摘要由CSDN通过智能技术生成

TEncCu::compressCU分析

TEncCu::compressCU对应的代码如下：

Void TEncCu::compressCU( TComDataCU*& rpcCU )
{
  // initialize CU data
  m_ppcBestCU[0]->initCU( rpcCU->getPic(), rpcCU->getAddr() );
  m_ppcTempCU[0]->initCU( rpcCU->getPic(), rpcCU->getAddr() );

  // analysis of CU
  xCompressCU( m_ppcBestCU[0], m_ppcTempCU[0], 0 );

#if ADAPTIVE_QP_SELECTION
  if( m_pcEncCfg->getUseAdaptQpSelect() )
  {
    if(rpcCU->getSlice()->getSliceType()!=I_SLICE) //IIII
    {
      xLcuCollectARLStats( rpcCU);
    }
  }
#endif
}

此段代码主要包括三个部分：

一是Input：

TComDataCU*& rpcCU
指向CU的参数。

二是initialize CU data：

m_ppcBestCU[0]->initCU( rpcCU->getPic(), rpcCU->getAddr() );
m_ppcTempCU[0]->initCU( rpcCU->getPic(), rpcCU->getAddr() );
TempCU表示当前CU的切法，BestCU表示前面算出的最好的CU切法。

m_ppcBestCU / m_ppcTempCU：存储最好的/当前的QP和在每一个深度的预测模式决策。

下面进入initCU：TComDataCU::initCU，对应的代码如下：

Void TComDataCU::initCU( TComPic* pcPic, UInt iCUAddr )
{

  m_pcPic              = pcPic;
  m_pcSlice            = pcPic->getSlice(pcPic->getCurrSliceIdx());
  m_uiCUAddr           = iCUAddr;
  m_uiCUPelX           = ( iCUAddr % pcPic->getFrameWidthInCU() ) * g_uiMaxCUWidth;
  m_uiCUPelY           = ( iCUAddr / pcPic->getFrameWidthInCU() ) * g_uiMaxCUHeight;
  m_uiAbsIdxInLCU      = 0;
  m_dTotalCost         = MAX_DOUBLE;
  m_uiTotalDistortion  = 0;
  m_uiTotalBits        = 0;
  m_uiTotalBins        = 0;
  m_uiNumPartition     = pcPic->getNumPartInCU();
  
  for(Int i=0; i<pcPic->getNumPartInCU(); i++)
  {
    if(pcPic->getPicSym()->getInverseCUOrderMap(iCUAddr)*pcPic->getNumPartInCU()+i>=getSlice()->getSliceCurStartCUAddr())
    {
      m_sliceStartCU[i]=getSlice()->getSliceCurStartCUAddr();
    }
    else
    {
      m_sliceStartCU[i]=pcPic->getCU(getAddr())->m_sliceStartCU[i];
    }
  }
  for(Int i=0; i<pcPic->getNumPartInCU(); i++)
  {
    if(pcPic->getPicSym()->getInverseCUOrderMap(iCUAddr)*pcPic->getNumPartInCU()+i>=getSlice()->getSliceSegmentCurStartCUAddr())
    {
      m_sliceSegmentStartCU[i]=getSlice()->getSliceSegmentCurStartCUAddr();
    }
    else
    {
      m_sliceSegmentStartCU[i]=pcPic->getCU(getAddr())->m_sliceSegmentStartCU[i];
    }
  }

  Int partStartIdx = getSlice()->getSliceSegmentCurStartCUAddr() - pcPic->getPicSym()->getInverseCUOrderMap(iCUAddr) * pcPic->getNumPartInCU();

  Int numElements = min<Int>( partStartIdx, m_uiNumPartition );
  for ( Int ui = 0; ui < numElements; ui++ )
  {
    TComDataCU * pcFrom = pcPic->getCU(getAddr());
    m_skipFlag[ui]   = pcFrom->getSkipFlag(ui);
    m_pePartSize[ui] = pcFrom->getPartitionSize(ui);
    m_pePredMode[ui] = pcFrom->getPredictionMode(ui);
    m_CUTransquantBypass[ui] = pcFrom->getCUTransquantBypass(ui);
    m_puhDepth[ui] = pcFrom->getDepth(ui);
    m_puhWidth  [ui] = pcFrom->getWidth(ui);
    m_puhHeight [ui] = pcFrom->getHeight(ui);
    m_puhTrIdx  [ui] = pcFrom->getTransformIdx(ui);
    m_puhTransformSkip[0][ui] = pcFrom->getTransformSkip(ui,TEXT_LUMA);
    m_puhTransformSkip[1][ui] = pcFrom->getTransformSkip(ui,TEXT_CHROMA_U);
    m_puhTransformSkip[2][ui] = pcFrom->getTransformSkip(ui,TEXT_CHROMA_V);
    m_apiMVPIdx[0][ui] = pcFrom->m_apiMVPIdx[0][ui];;
    m_apiMVPIdx[1][ui] = pcFrom->m_apiMVPIdx[1][ui];
    m_apiMVPNum[0][ui] = pcFrom->m_apiMVPNum[0][ui];
    m_apiMVPNum[1][ui] = pcFrom->m_apiMVPNum[1][ui];
    m_phQP[ui]=pcFrom->m_phQP[ui];
    m_pbMergeFlag[ui]=pcFrom->m_pbMergeFlag[ui];
    m_puhMergeIndex[ui]=pcFrom->m_puhMergeIndex[ui];
    m_puhLumaIntraDir[ui]=pcFrom->m_puhLumaIntraDir[ui];
    m_puhChromaIntraDir[ui]=pcFrom->m_puhChromaIntraDir[ui];
    m_puhInterDir[ui]=pcFrom->m_puhInterDir[ui];
    m_puhCbf[0][ui]=pcFrom->m_puhCbf[0][ui];
    m_puhCbf[1][ui]=pcFrom->m_puhCbf[1][ui];
    m_puhCbf[2][ui]=pcFrom->m_puhCbf[2][ui];
    m_pbIPCMFlag[ui] = pcFrom->m_pbIPCMFlag[ui];
  }
  
  Int firstElement = max<Int>( partStartIdx, 0 );
  numElements = m_uiNumPartition - firstElement;
  
  if ( numElements > 0 )
  {
    memset( m_skipFlag          + firstElement, false,                    numElements * sizeof( *m_skipFlag ) );

    memset( m_pePartSize        + firstElement, SIZE_NONE,                numElements * sizeof( *m_pePartSize ) );
    memset( m_pePredMode        + firstElement, MODE_NONE,                numElements * sizeof( *m_pePredMode ) );
    memset( m_CUTransquantBypass+ firstElement, false,                    numElements * sizeof( *m_CUTransquantBypass) );
    memset( m_puhDepth          + firstElement, 0,                        numElements * sizeof( *m_puhDepth ) );
    memset( m_puhTrIdx          + firstElement, 0,                        numElements * sizeof( *m_puhTrIdx ) );
    memset( m_puhTransformSkip[0] + firstElement, 0,                      numElements * sizeof( *m_puhTransformSkip[0]) );
    memset( m_puhTransformSkip[1] + firstElement, 0,                      numElements * sizeof( *m_puhTransformSkip[1]) );
    memset( m_puhTransformSkip[2] + firstElement, 0,                      numElements * sizeof( *m_puhTransformSkip[2]) );
    memset( m_puhWidth          + firstElement, g_uiMaxCUWidth,           numElements * sizeof( *m_puhWidth ) );
    memset( m_puhHeight         + firstElement, g_uiMaxCUHeight,          numElements * sizeof( *m_puhHeight ) );
    memset( m_apiMVPIdx[0]      + firstElement, -1,                       numElements * sizeof( *m_apiMVPIdx[0] ) );
    memset( m_apiMVPIdx[1]      + firstElement, -1,                       numElements * sizeof( *m_apiMVPIdx[1] ) );
    memset( m_apiMVPNum[0]      + firstElement, -1,                       numElements * sizeof( *m_apiMVPNum[0] ) );
    memset( m_apiMVPNum[1]      + firstElement, -1,                       numElements * sizeof( *m_apiMVPNum[1] ) );
    memset( m_phQP              + firstElement, getSlice()->getSliceQp(), numElements * sizeof( *m_phQP ) );
    memset( m_pbMergeFlag       + firstElement, false,                    numElements * sizeof( *m_pbMergeFlag ) );
    memset( m_puhMergeIndex     + firstElement, 0,                        numElements * sizeof( *m_puhMergeIndex ) );
    memset( m_puhLumaIntraDir   + firstElement, DC_IDX,                   numElements * sizeof( *m_puhLumaIntraDir ) );
    memset( m_puhChromaIntraDir + firstElement, 0,                        numElements * sizeof( *m_puhChromaIntraDir ) );
    memset( m_puhInterDir       + firstElement, 0,                        numElements * sizeof( *m_puhInterDir ) );
    memset( m_puhCbf[0]         + firstElement, 0,                        numElements * sizeof( *m_puhCbf[0] ) );
    memset( m_puhCbf[1]         + firstElement, 0,                        numElements * sizeof( *m_puhCbf[1] ) );
    memset( m_puhCbf[2]         + firstElement, 0,                        numElements * sizeof( *m_puhCbf[2] ) );
    memset( m_pbIPCMFlag        + firstElement, false,                    numElements * sizeof( *m_pbIPCMFlag ) );
  }
  
  UInt uiTmp = g_uiMaxCUWidth*g_uiMaxCUHeight;
  if ( 0 >= partStartIdx ) 
  {
    m_acCUMvField[0].clearMvField();
    m_acCUMvField[1].clearMvField();
    memset( m_pcTrCoeffY , 0, sizeof( TCoeff ) * uiTmp );
#if ADAPTIVE_QP_SELECTION
    memset( m_pcArlCoeffY , 0, sizeof( Int ) * uiTmp );  
#endif
    memset( m_pcIPCMSampleY , 0, sizeof( Pel ) * uiTmp );
    uiTmp  >>= 2;
    memset( m_pcTrCoeffCb, 0, sizeof( TCoeff ) * uiTmp );
    memset( m_pcTrCoeffCr, 0, sizeof( TCoeff ) * uiTmp );
#if ADAPTIVE_QP_SELECTION  
    memset( m_pcArlCoeffCb, 0, sizeof( Int ) * uiTmp );
    memset( m_pcArlCoeffCr, 0, sizeof( Int ) * uiTmp );
#endif
    memset( m_pcIPCMSampleCb , 0, sizeof( Pel ) * uiTmp );
    memset( m_pcIPCMSampleCr , 0, sizeof( Pel ) * uiTmp );
  }
  else 
  {
    TComDataCU * pcFrom = pcPic->getCU(getAddr());
    m_acCUMvField[0].copyFrom(&pcFrom->m_acCUMvField[0],m_uiNumPartition,0);
    m_acCUMvField[1].copyFrom(&pcFrom->m_acCUMvField[1],m_uiNumPartition,0);
    for(Int i=0; i<uiTmp; i++)
    {
      m_pcTrCoeffY[i]=pcFrom->m_pcTrCoeffY[i];
#if ADAPTIVE_QP_SELECTION
      m_pcArlCoeffY[i]=pcFrom->m_pcArlCoeffY[i];
#endif
      m_pcIPCMSampleY[i]=pcFrom->m_pcIPCMSampleY[i];
    }
    for(Int i=0; i<(uiTmp>>2); i++)
    {
      m_pcTrCoeffCb[i]=pcFrom->m_pcTrCoeffCb[i];
      m_pcTrCoeffCr[i]=pcFrom->m_pcTrCoeffCr[i];
#if ADAPTIVE_QP_SELECTION
      m_pcArlCoeffCb[i]=pcFrom->m_pcArlCoeffCb[i];
      m_pcArlCoeffCr[i]=pcFrom->m_pcArlCoeffCr[i];
#endif
      m_pcIPCMSampleCb[i]=pcFrom->m_pcIPCMSampleCb[i];
      m_pcIPCMSampleCr[i]=pcFrom->m_pcIPCMSampleCr[i];
    }
  }

  // Setting neighbor CU
  m_pcCULeft        = NULL;
  m_pcCUAbove       = NULL;
  m_pcCUAboveLeft   = NULL;
  m_pcCUAboveRight  = NULL;

  m_apcCUColocated[0] = NULL;
  m_apcCUColocated[1] = NULL;

  UInt uiWidthInCU = pcPic->getFrameWidthInCU();
  if ( m_uiCUAddr % uiWidthInCU )
  {
    m_pcCULeft = pcPic->getCU( m_uiCUAddr - 1 );
  }

  if ( m_uiCUAddr / uiWidthInCU )
  {
    m_pcCUAbove = pcPic->getCU( m_uiCUAddr - uiWidthInCU );
  }

  if ( m_pcCULeft && m_pcCUAbove )
  {
    m_pcCUAboveLeft = pcPic->getCU( m_uiCUAddr - uiWidthInCU - 1 );
  }

  if ( m_pcCUAbove && ( (m_uiCUAddr%uiWidthInCU) < (uiWidthInCU-1) )  )
  {
    m_pcCUAboveRight = pcPic->getCU( m_uiCUAddr - uiWidthInCU + 1 );
  }

  if ( getSlice()->getNumRefIdx( REF_PIC_LIST_0 ) > 0 )
  {
    m_apcCUColocated[0] = getSlice()->getRefPic( REF_PIC_LIST_0, 0)->getCU( m_uiCUAddr );
  }

  if ( getSlice()->getNumRefIdx( REF_PIC_LIST_1 ) > 0 )
  {
    m_apcCUColocated[1] = getSlice()->getRefPic( REF_PIC_LIST_1, 0)->getCU( m_uiCUAddr );
  }
}
此函数传入的是Pic和CU的参数，此段程序主要完成以下几个任务：

1、Initialize top-level CU

  m_pcPic              = pcPic;
  m_pcSlice            = pcPic->getSlice(pcPic->getCurrSliceIdx());
  m_uiCUAddr           = iCUAddr;
  m_uiCUPelX           = ( iCUAddr % pcPic->getFrameWid
最低0.47元/天 解锁文章
成长Bar
关注
专栏目录
【Codecs系列】HEVC标准（八）：环路滤波技术之Deblocking
CSDN明星博主，认证博客专家，视频、Matlab领域优质创作者。
01-10 1950
Date: 2022.1.10 文章目录1、去块滤波介绍2、滤波决策2.1、获取边界强度2.2、滤波开关决策3、滤波操作3.1、亮度分量的强滤波3.2、亮度分量的弱滤波3.3、色度分量的滤波 1、去块滤波介绍 方块效应是指图像中编码块边界的不连续性。造成方块效应的主要原因包括： （1） 各个块的变换量化编码过程相互独立，各块引入的量化误差大小及其分布特性相互独立，导致相邻块边界不连续 （2） 运动补偿预测过程中，相邻块的预测值可能来自于不同图像的不同位置，导致预测残差信号在块边界产生数值不连续 （3） 时
【Codecs系列】HEVC标准（三）：大尺寸四叉树分割技术
CSDN明星博主，认证博客专家，视频、Matlab领域优质创作者。
12-24 1674
DATE: 2021.12.24 文章目录1、编码块划分2、编码单元CU3、预测单元PU4、变换单元TU 1、编码块划分     不同于H.264中的编码宏块，H.265采用一种更加灵活的块划分结构——四叉树划分，并且定义了一种全新的分割模式，包括编码单元CU，预测单元PU和变换单元TU。对于大分辨率视频编码，大尺寸的四叉树分割技术的编码增益很明显。 2、编码单元CU     CU（Coding Unit）是编码的基本单元。CU尺寸包括8x8~64x64，最大CU称作LCU。H.265中采用CTU来表示编
HM学习——xCompressCU函数
小惊大怪的博客
05-13 961
#if AMP_ENC_SPEEDUP Void TEncCu::xCompressCU( TComDataCU*& rpcBestCU, TComDataCU*& rpcTempCU, const UInt uiDepth DEBUG_STRING_FN_DECLARE(sDebug_), PartSize eParentPartSize ) #else Void TEncCu::xCompressCU( TComDataCU*& rpcBestCU, TComDataCU*&a.
HEVC-HM16.9源码学习(1)TEncCu::xCompressCU
weixin_30432179的博客
01-25 355
函数入口：Void TEncSlice::compressSlice的m_pcCuEncoder->compressCtu( pCtu );调用xCompressCU( m_ppcBestCU[0], m_ppcTempCU[0], 0 DEBUG_STRING_PASS_INTO(sDebug) ); 从CTU开始以四叉树的结构划分CU，递归的每次尝试各种模式和划分方法，记录一个最佳的方...
compressCU
Nereus_Li的专栏
07-26 1364
compressCU是个递归的函数 每一层的当前CU 都有两个变量rpcBestCU和rpcTempCU来记录信息（rpcBestCU记录当前已经发现的最佳的模式）。 对于某一层CU，在他进行进一步划分为4个subCU之前，定义下一级别的两个CU变量pcSubBestPartCU和pcSubTempPartCU，这两个变量在递归调用compressCU时，相当于下一层的rpcBestCU和rp
HEVC代码追踪（六）:compressCU
成长Bar的博客专栏
11-30 1233
Void TEncCu::compressCU( TComDataCU*& rpcCU ) { // initialize CU data m_ppcBestCU[0]->initCU( rpcCU->getPic(), rpcCU->getAddr() ); m_ppcTempCU[0]->initCU( rpcCU->getPic(), rpcCU->getAddr() );
Test Model 11 of 3D-HEVC and MV-HEVC： JVT3V-K1003
01-17
《3D-HEVC与MV-HEVC技术详解——基于JVT3V-K1003提案》 在信息技术领域，高效视频编码（High Efficiency Video Coding, HEVC）已经成为高清视频编码的主流标准，极大地提升了视频压缩效率。然而，随着虚拟现实（VR...
Elecard HEVC视频流分析软件：免费学习HEVC技术利器
- 技术学习辅助：对学习和研究HEVC技术的个人和团队来说，该工具可以作为了解编码细节的辅助资源，帮助理解HEVC编码的各个环节。 - 性能评估：通过分析，用户可以评估视频流的编码效率和质量，以及在不同设备和...
CompressCU 函数
歆萌的专栏
05-08 2773
转载地址：http://blog.sina.com.cn/s/blog_9f945ced0101p3ut.html                        mark一下下.  看过好几次CompressCU函数，都是一知半解。这次要做的是把模式保留下来，可以减少熵编码的比特数。这样就必须彻底的弄清楚CU的递归的划分也就是xcompressCU这个函数。这样才知道什么时候保存需要的模
CompressCU函数:LCU的编码，包括CU的划分，PU模式的决定，TU的划分
宁静致远
12-21 3713
看过好几次CompressCU函数，都是一知半解。这次要做的是把模式保留下来，可以减少熵编码的比特数。这样就必须彻底的弄清楚CU的递归的划分也就是xcompressCU这个函数。这样才知道什么时候保存需要的模式，保存到哪里去，以什么形式存储，在熵编码的时候如何对PU的模式进行索引。 1.xCompressCU 函数的调用 在编码一个片的函数CompressSlice 函数中有这个几行代
xcompressCU
Villa_7的博客
04-12 1295
#if AMP_ENC_SPEEDUP Void TEncCu::xCompressCU( TComDataCU*& rpcBestCU, TComDataCU*& rpcTempCU, const UInt uiDepth DEBUG_STRING_FN_DECLARE(sDebug_), PartSize eParentPartSize ) #else Void TEncCu::xCompre
HEVC---CompressCU 函数解析
rs勿忘初心的博客
05-09 1210
看过好几次CompressCU函数，都是一知半解。这次要做的是把模式保留下来，可以减少熵编码的比特数。这样就必须彻底的弄清楚CU的递归的划分也就是xcompressCU这个函数。这样才知道什么时候保存需要的模式，保存到哪里去，以什么形式存储，在熵编码的时候如何对PU的模式进行索引。1.xCompressCU 函数的调用在编码一个片的函数CompressSlice 函数中有这个几行代码     //...
HM TEncCu相关说明
Coding
04-12 1158
class TComYuv的注释是：general YUV buffer class。该注释不清楚，其实TComYuv就是用于存放一个CU的相关数据。例如，在class TEncCu中的各个depth的CU的数据：/// CU encoder class class TEncCu { private: TComDataCU** m_ppcBestCU; ///< B
HEVC代码追踪（四）:compressGOP框架
成长Bar的博客专栏
11-26 2759
Void TEncGOP::compressGOP( Int iPOCLast, Int iNumPicRcvd, TComList& rcListPic, TComList& rcListPicYuvRecOut, std::list& accessUnitsInGOP, bool isField, bool isTff) { /*compressGOP的一些初始设定或者说是初始参
xCompressCU函数代码跟踪
weixin_42394155的博客
10-18 354
啦啦啦啦！跟踪到最后的CU块就改方向了，也算是画个句号吧，毕竟学了这么久的hevc，拉跨是挺拉跨的，好歹花了时间，不能太嫌弃自己！加油！冲鸭！ #if AMP_ENC_SPEEDUP Void TEncCu::xCompressCU( TComDataCU*& rpcBestCU, TComDataCU*& rpcTempCU, const UInt uiDepth DEBUG_STRING_FN_DECLARE(sDebug_), PartSize eParentPartSize )
xCompressCU()递归调用过程
nut_coffee的博客
04-22 2141
在xCompressCU()这个函数里面，一直会见到两个缓存区：rpcBestCU和rpcTempCU。转到xCheckRDCostIntra()里面，实际做预测工作的是estIntraPredQT()，用的都是rpcTempCU。做完预测返回后在最后面有一个xCheckBestMode()，转到里面。 关键的语句就是if( rpcTempCU->getTotalCost() getTota
Analysis::compressIntraCU()
workspace
05-24 777
/* 对当前CU当前深度的四叉树递归进行帧内预测压缩分析，得到当前CU的最优预测，返回其rdcost 过程： 1.得到当前深度depth，以及当前深度下的modeDepth 2.判断当前CU是否可以split？是否可以不split？若是CU是叶子节点，则不可以split；若CU强行split，则不可以不split 3.判断当前CU是否已经decided，或深度已经decided。 1.若intraRefine等级!=4，且当前CU加载的IPM方向不是ALL_IDX，且bAnalysi
x265编码器 checkIntra 函数分析
想都是问题，做才有答案～～
09-06 717
x265编码器 checkIntra 函数分析
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值