HEVC学习（十四） —— SAO函数解析之二

最新推荐文章于 2022-03-04 11:08:10 发布
置顶 最新推荐文章于 2022-03-04 11:08:10 发布
阅读量4.7k 收藏 6
点赞数 2
分类专栏： HEVC 文章标签： HEVC HM SAO
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/HEVC_CJL/article/details/8288572
版权 
/** rate distortion optimization of all SAO units
 * \param saoParam SAO parameters
 * \param lambda 
 * \param lambdaChroma
 */
#if SAO_ENCODING_CHOICE
Void TEncSampleAdaptiveOffset::rdoSaoUnitAll(SAOParam *saoParam, Double lambda, Double lambdaChroma, Int depth)
#else
Void TEncSampleAdaptiveOffset::rdoSaoUnitAll(SAOParam *saoParam, Double lambda, Double lambdaChroma)
#endif
{

  Int idxY;
  Int idxX;
  Int frameHeightInCU = saoParam->numCuInHeight;
  Int frameWidthInCU  = saoParam->numCuInWidth;
  Int j, k;
  Int addr = 0;
  Int addrUp = -1;
  Int addrLeft = -1;
  Int compIdx = 0;
  SaoLcuParam mergeSaoParam[3][2];
  Double compDistortion[3];

  saoParam->bSaoFlag[0] = true;
  saoParam->bSaoFlag[1] = true;
  saoParam->oneUnitFlag[0] = false;
  saoParam->oneUnitFlag[1] = false;
  saoParam->oneUnitFlag[2] = false;

#if SAO_ENCODING_CHOICE
#if SAO_ENCODING_CHOICE_CHROMA
  Int numNoSao[2];
  numNoSao[0] = 0;// Luma 
  numNoSao[1] = 0;// Chroma 
  if( depth > 0 && m_depthSaoRate[0][depth-1] > SAO_ENCODING_RATE )
  {
    saoParam->bSaoFlag[0] = false;
  }
  if( depth > 0 && m_depthSaoRate[1][depth-1] > SAO_ENCODING_RATE_CHROMA )
  {
    saoParam->bSaoFlag[1] = false;
  }
#else
  Int numNoSao = 0;

  if( depth > 0 && m_depth0SaoRate > SAO_ENCODING_RATE )
  {
    saoParam->bSaoFlag[0] = false;
    saoParam->bSaoFlag[1] = false;
  }
#endif
#endif
  //!< 以LCU为单位对图像中的每个LCU进行遍历
  for (idxY = 0; idxY< frameHeightInCU; idxY++)
  {
    for (idxX = 0; idxX< frameWidthInCU; idxX++)
    {
      addr     = idxX  + frameWidthInCU*idxY; //!< 当前LCU地址
      addrUp   = addr < frameWidthInCU ? -1:idxX   + frameWidthInCU*(idxY-1); //!< 当前LCU上邻块地址
      addrLeft = idxX == 0               ? -1:idxX-1 + frameWidthInCU*idxY; //!< 当前LCU左邻块地址
      Int allowMergeLeft = 1;
      Int allowMergeUp   = 1;
      UInt rate;
      Double bestCost, mergeCost;
      if (idxX!=0) //!< 非第1列
      { 
        // check tile id and slice id //! 检查当前LCU与其左邻块是否属于同一个tile以及是否属于同一个slice，不同的话该邻块不可用
        if ( (m_pcPic->getPicSym()->getTileIdxMap(addr-1) != m_pcPic->getPicSym()->getTileIdxMap(addr)) || (m_pcPic->getCU(addr-1)->getSlice()->getSliceIdx() != m_pcPic->getCU(addr)->getSlice()->getSliceIdx()))
        {
          allowMergeLeft = 0; //!< 左邻块不可用
        }
      }
      else
      {
        allowMergeLeft = 0; //!< 第1列的左邻块均不可用
      }
      if (idxY!=0) //!< 非第1行
      {//! 检查当前LCU与其上邻块是否属于同一个tile以及是否属于同一个slice，不同的话该邻块不可用
        if ( (m_pcPic->getPicSym()->getTileIdxMap(addr-m_iNumCuInWidth) != m_pcPic->getPicSym()->getTileIdxMap(addr)) || (m_pcPic->getCU(addr-m_iNumCuInWidth)->getSlice()->getSliceIdx() != m_pcPic->getCU(addr)->getSlice()->getSliceIdx()))
        {
          allowMergeUp = 0; //!< 上邻块不可用
        }
      }
      else
      {
        allowMergeUp = 0; //!< 第1行的上邻块均不可用
      }

      compDistortion[0] = 0; //!< Y distortion
      compDistortion[1] = 0; //!< Cb distortion
      compDistortion[2] = 0; //!< Cr distortion
      m_pcRDGoOnSbacCoder->load(m_pppcRDSbacCoder[0][CI_CURR_BEST]);
      if (allowMergeLeft)
      {
        m_pcEntropyCoder->m_pcEntropyCoderIf->codeSaoMerge(0); //!< 编码句法元素sao_merge_left_flag
      }
      if (allowMergeUp)
      {
        m_pcEntropyCoder->m_pcEntropyCoderIf->codeSaoMerge(0); //!< 编码句法元素sao_merge_up_flag
      }
      m_pcRDGoOnSbacCoder->store( m_pppcRDSbacCoder[0][CI_TEMP_BEST] );
      // reset stats Y, Cb, Cr
      for ( compIdx=0;compIdx<3;compIdx++)
      {
        for ( j=0;j<MAX_NUM_SAO_TYPE;j++)
        {
          for ( k=0;k< MAX_NUM_SAO_CLASS;k++)
          {
            m_iOffset   [compIdx][j][k] = 0;
            if( m_saoLcuBasedOptimization && m_saoLcuBoundary ){ //!< true && false
              m_iCount    [compIdx][j][k] = m_count_PreDblk    [addr][compIdx][j][k];
              m_iOffsetOrg[compIdx][j][k] = m_offsetOrg_PreDblk[addr][compIdx][j][k];
            }
            else
            {
              m_iCount    [compIdx][j][k] = 0;
              m_iOffsetOrg[compIdx][j][k] = 0;
            }
          }  
        }
        saoParam->saoLcuParam[compIdx][addr].typeIdx       =  -1;
        saoParam->saoLcuParam[compIdx][addr].mergeUpFlag   = 0;
        saoParam->saoLcuParam[compIdx][addr].mergeLeftFlag = 0;
        saoParam->saoLcuParam[compIdx][addr].subTypeIdx    = 0;
#if SAO_ENCODING_CHOICE
  if( (compIdx ==0 && saoParam->bSaoFlag[0])|| (compIdx >0 && saoParam->bSaoFlag[1]) )
#endif
        {//! 统计BO和EO各个模式下，对应classIdx下滤波前的重建像素值与原始像素值的差值的总和，以及对classIdx的计数
          calcSaoStatsCu(addr, compIdx,  compIdx);
		}
      }
	  //!< Y分量最佳滤波模式的选择
      saoComponentParamDist(allowMergeLeft, allowMergeUp, saoParam, addr, addrUp, addrLeft, 0,  lambda, &mergeSaoParam[0][0], &compDistortion[0]);
	  //!< CbCr分量最佳滤波模式的选择
      sao2ChromaParamDist(allowMergeLeft, allowMergeUp, saoParam, addr, addrUp, addrLeft, lambdaChroma, &mergeSaoParam[1][0], &mergeSaoParam[2][0], &compDistortion[0]);
     if( saoParam->bSaoFlag[0] || saoParam->bSaoFlag[1] )
      {
        // Cost of new SAO_params
        m_pcRDGoOnSbacCoder->load(m_pppcRDSbacCoder[0][CI_CURR_BEST]);
        m_pcRDGoOnSbacCoder->resetBits();
        if (allowMergeLeft)
        {
          m_pcEntropyCoder->m_pcEntropyCoderIf->codeSaoMerge(0); 
        }
        if (allowMergeUp)
        {
          m_pcEntropyCoder->m_pcEntropyCoderIf->codeSaoMerge(0);
        }
        for ( compIdx=0;compIdx<3;compIdx++)
        {
        if( (compIdx ==0 && saoParam->bSaoFlag[0]) || (compIdx >0 && saoParam->bSaoFlag[1]))
          {
           m_pcEntropyCoder->encodeSaoOffset(&saoParam->saoLcuParam[compIdx][addr], compIdx);
          }
        }

        rate = m_pcEntropyCoder->getNumberOfWrittenBits();
        bestCost = compDistortion[0] + (Double)rate;
        m_pcRDGoOnSbacCoder->store(m_pppcRDSbacCoder[0][CI_TEMP_BEST]);

        // Cost of Merge
        for(Int mergeUp=0; mergeUp<2; ++mergeUp)
        {
          if ( (allowMergeLeft && (mergeUp==0)) || (allowMergeUp && (mergeUp==1)) )
          {
            m_pcRDGoOnSbacCoder->load(m_pppcRDSbacCoder[0][CI_CURR_BEST]);
            m_pcRDGoOnSbacCoder->resetBits();
            if (allowMergeLeft)
            {
              m_pcEntropyCoder->m_pcEntropyCoderIf->codeSaoMerge(1-mergeUp); 
            }
            if ( allowMergeUp && (mergeUp==1) )
            {
              m_pcEntropyCoder->m_pcEntropyCoderIf->codeSaoMerge(1); 
            }

            rate = m_pcEntropyCoder->getNumberOfWrittenBits();
            mergeCost = compDistortion[mergeUp+1] + (Double)rate;
            if (mergeCost < bestCost)
            {
              bestCost = mergeCost;
              m_pcRDGoOnSbacCoder->store(m_pppcRDSbacCoder[0][CI_TEMP_BEST]);              
              for ( compIdx=0;compIdx<3;compIdx++)
              {
                mergeSaoParam[compIdx][mergeUp].mergeLeftFlag = 1-mergeUp;
                mergeSaoParam[compIdx][mergeUp].mergeUpFlag = mergeUp;
                if( (compIdx==0 && saoParam->bSaoFlag[0]) || (compIdx>0 && saoParam->bSaoFlag[1]))
                {
                  copySaoUnit(&saoParam->saoLcuParam[compIdx][addr], &mergeSaoParam[compIdx][mergeUp] );             
                }
              }
            }
          }
        }
#if SAO_ENCODING_CHOICE
#if SAO_ENCODING_CHOICE_CHROMA
if( saoParam->saoLcuParam[0][addr].typeIdx == -1) //!< Y分量不存在SAO参数
{
  numNoSao[0]++;
}
if( saoParam->saoLcuParam[1][addr].typeIdx == -1) //!< CbCr分量不存在SAO参数
{
  numNoSao[1]+=2;
}
#else
        for ( compIdx=0;compIdx<3;compIdx++)
        {
          if( depth == 0 && saoParam->saoLcuParam[compIdx][addr].typeIdx == -1)
          {
            numNoSao++;
          }
        }
#endif
#endif
        m_pcRDGoOnSbacCoder->load(m_pppcRDSbacCoder[0][CI_TEMP_BEST]);
        m_pcRDGoOnSbacCoder->store(m_pppcRDSbacCoder[0][CI_CURR_BEST]);
      } //!< if( saoParam->bSaoFlag[0] || saoParam->bSaoFlag[1] )       
    } //!< for (idxX = 0; idxX< frameWidthInCU; idxX++)     
  } //!< for (idxY = 0; idxY< frameHeightInCU; idxY++)   
#if SAO_ENCODING_CHOICE
#if SAO_ENCODING_CHOICE_CHROMA
#if SAO_ENCODING_CHOICE_CHROMA_BF
  if( !saoParam->bSaoFlag[0]) 
  {
    m_depthSaoRate[0][depth] = 1.0;
  }
  else
  {
    m_depthSaoRate[0][depth] = numNoSao[0]/((Double) frameHeightInCU*frameWidthInCU);
  }
  if( !saoParam->bSaoFlag[1]) 
  {
    m_depthSaoRate[1][depth] = 1.0;
  }
  else 
  {
    m_depthSaoRate[1][depth] = numNoSao[1]/((Double) frameHeightInCU*frameWidthInCU*2);
  }
#else
m_depthSaoRate[0][depth] = numNoSao[0]/((Double) frameHeightInCU*frameWidthInCU);
m_depthSaoRate[1][depth] = numNoSao[1]/((Double) frameHeightInCU*frameWidthInCU*2);
#endif
#else
  if( depth == 0)
  {
    // update SAO Rate
    m_depth0SaoRate = numNoSao/((Double) frameHeightInCU*frameWidthInCU*3);
  }
#endif
#endif

}

HEVC_CJL
关注
专栏目录
【Codecs系列】HEVC标准（九）：环路滤波技术之SAO
CSDN明星博主，认证博客专家，视频、Matlab领域优质创作者。
01-11 1759
Date：2022.1.12 文章目录1、SAO介绍2、边界补偿EO3、边带补偿BO4、SAO参数融合 1、SAO介绍 SAO（Sample Adaptive Offset）像素自适应偏移，在编解码环路内，位于Deblocking之后。 H.265标准中的SAO以CTB为基本单位，通过选择一个合适的分类器将重建像素划分类别，然后对不同类别像素使用不同的补偿值，可以有效提高视频的主客观质量。 采用SAO后，平均可以减少2%~6%的码流，而编码器和解码器的性能消耗仅仅增加了2%。 它包括两种补偿形式，分别是边
HEVC 中的SAO 2 主函数SAOProcess
luobinji001的专栏
04-17 1085
SAO主函数代码结构如下:参见博客 http://blog.csdn.net/hevc_cjl/article/details/8284432 Void TEncSampleAdaptiveOffset::SAOProcess() { … rdoSaoUnitAll(pcSaoParam, dLambdaLuma, dLambdaChroma, depth);//得到最佳SAO_TYPE选择
HEVC学习（十三） —— SAO函数解析之一
HEVC_CJL的专栏
12-12 7671
关于SAO的原理和流程的解析，已经在我转载的一篇博客HEVC中SAO--自适应样点补偿 详细分析解读有了比较清楚的介绍了，本文就不再重复这个过程，而把主要精力放在具体函数实现的解析上。在我自己的一篇博客HEVC学习（八） —— 以SAO为例浅析跟踪代码方法里其实也作了相关的铺垫了，当中重点放在跟踪代码的方法上，本文在此基础上对重要的函数进行解析，它们的调用位置这里就不提了，有关这部分的内容请参
HEVC中SAO--自适应样点补偿 详细分析解读
飞翔 视频直播系统
12-05 1万+
HEVC中SAO--自适应样点补偿:   本文分三个部分, 1.Sample Adaptive Offset原理, 2.SAO处理流程分析, 3.SAO意义何在! a)  SAO原理:     SAO是在DB之后进行, 输入是重建帧和原始帧数据, 输出是SAO数据和SAO后的重建帧. 自适应样点补偿是一个自适应选择过程，在去块滤波后进行。 下面是整个HEVC的编码框图, 可以看到SAO是在
HEVC学习（八） —— 以SAO为例浅析跟踪代码方法
HEVC_CJL的专栏
11-24 1万+
HM的代码跟踪其实在我转载的一篇博客HEVC/H.265参考代码跟踪里就已经有很不错的介绍了，因此，我就不重复里面所说的了，而是对里面一些我觉得需要稍微补充下并且以另一个具体实例SAO即Sample Adaptive Offset的跟踪过程进行说明。由于只是一个跟踪说明，代码的具体细节就不去探究了，其实这也是一个方法，有些时候，你仅仅需要知道实现某个功能的代码在哪，而不需要知道它的实现细节，那
HEVC学习（十六） —— SAO函数解析之四
HEVC_CJL的专栏
12-12 4717
Void TEncSampleAdaptiveOffset::saoComponentParamDist(Int allowMergeLeft, Int allowMergeUp, SAOParam *saoParam, Int addr, Int addrUp, Int addrLeft, Int yCbCr, Double lambda, SaoLcuParam *compSaoParam,
HEVC学习（十五） —— SAO函数解析之三
HEVC_CJL的专栏
12-12 4171
/** Calculate SAO statistics for current LCU * \param iAddr, iPartIdx, iYCbCr */ Void TEncSampleAdaptiveOffset::calcSaoStatsCu(Int iAddr, Int iPartIdx, Int iYCbCr) { if(!m_bUseNIF) //!< tr
HEVC学习（二十一） —— 熵编码之二
HEVC_CJL的专栏
01-04 6840
本文继续讨论编码器的初始化过程，即draft 9.3.1.1。 上一篇介绍的是各个context对应到标准相应表格的值，以及相关变量和函数，前面提到initBuffer函数对context进行初始化，但是没有深入解析这个函数的实现，这就是本文的主要任务。 首先介绍下面讨论过程中会涉及到的一个类ContextModel3DBuffer，重点关注该类的构造函数： /// context mode
HEVC—SAO技术
热门推荐
sheldonma的博客
08-06 3万+
来源 SAO原始的思想来自于Samsung的提案JCTVC-A124。因为该提案太过复杂，因此没有被H265采用。但是基于该提案提出的SAO（JCTVC-BO77/C147/D122/E049）最后被采用了。在原始的提案中SAO分为LUMA SAO和CHROMA SAO(JCTVC-F056）。SAO的offset包含BO(Band offset)和EO(Edgeoffset)。 原理 通过PSNR的计算公式可以看到，重构数据和原始YUV之间的差的平方和是决定PSNR的...
HEVC SAO AND X265
木有名字的专栏
07-02 1484
上图中 四周邻域像素由数字0-29表示。这30个点是sao过程可能会用到的点。 假设sao按照lcu 顺序进行，则这些邻域像素点可以分成以下几类： 需要备份的点： top 0-9， left 24-29。因为 0-9, 25-29 这些点在做当前lcu的sao时，其所在的lcu已经进行完sao操作，所以需要保持这点在sao之前的结果。24是个特殊的点，它其实在这个时刻是没有做过sao 的，依
HEVC中的样点自适应补偿——Sample Adaptive Offset (SAO)
ljh_shuai的博客
07-14 2237
为什么需要SAO 当变化块尺寸较大时，容易出现振铃效应，SAO就是用来削弱这种效应的。 SAO首先利用分类器将样点分类，然后根据类别对样点值加上一个偏移值。 样点的类别下标以及偏移值会被编码到码流中。 HEVC中有两种SAO type，edge offset(EO) 和 band offset(BO)，其中EO是根据样点值与周围样点值的关系来分类，而BO是根据样点本身的值来分类。 HEVC中以CTU为单位进行SAO，不同的CTU可以使用相同的SAO参数（也就是region merging），一个CTU包含的
HEVC中SAO--自适应样点补偿 分析解读
骑驴看唱本
06-11 1493
HEVCSAO 目录(?)[+] 原文地址：http://blog.csdn.net/feixiang_john/article/details/8258452 HEVC中SAO--自适应样点补偿:本文分三个部分, 1.Sample Adaptive Offset原理, 2.SAO处理流程分析, 3.SAO意义何在! SAO的文章见《Sample
【HEVC学习与研究】46、HEVC参考代码中SAO的实现
Workshop of Wenjie.Yin
06-28 2999
1、HM10 encoder关于SAO的初始化操作 在编码开始之前，编码器将进行与SAO有关的一些初始化设置。如在TAppEncTop::encode()函数中调用TAppEncTop::xInitLibCfg()进行与config相关的设置： m_cTEncTop.setLFCrossSliceBoundaryFlag( m_bLFCrossSliceBoundaryFlag );//p
HEVC样值自适应补偿（SAO）
mytzs123的博客
03-04 118
HEVC编码器的环路滤波 SAO位于编码器环路内，紧接着去方块滤波器后面。SAO是一种自适应选择的处理过程，它的输入信号是原始图像数据和去方块滤波后的重建图像数据，SAO 参照原始图像数据，对重建图像数据进行补偿，输出是 SAO 纠正后的图像数据和 SAO 的补偿数据。SAO 一边将纠正后的图像数据送至图像缓存，为编码环路提供质量更高的重建图像参考，另一边将产生的补偿参数送至...
HEVC学习（十二） —— CU的最终划分
最新发布
09-12
嗨！对于HEVC中CU（Coding Unit）的最终划分，可以简单地描述为以下几个步骤： 1. CTU划分：首先，图像被划分为一系列的Coding Tree Units（CTUs）。CTU是最大的编码单元，其大小为64x64、32x32或16x16像素。 2. PU划分：在每个CTU内部，进行PU（Prediction Unit）的划分。PU是用于预测的最小单元，可以是正方形或矩形，并且可以具有不同的大小和位置。 3. TU划分：在PU内部，进行TU（Transform Unit）的划分。TU是用于变换和量化的最小单元，也可以是正方形或矩形，并且可以具有不同的大小。 4. 最终CU划分：最后，在每个PU内部，进行CU的最终划分。CU是用于编码的最小单元，可以是正方形或矩形，并且可以具有不同的大小和位置。在最终CU划分时，会考虑到图像中的边界约束和编码效率。 需要注意的是，CU的最终划分是根据编码效率和图像内容来确定的。HEVC使用了一系列算法和决策规则来进行CU的最终划分，以达到更好的压缩效果和视觉质量。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值