H.266代码学习：AMT相关代码学习

AMT理论部分见http://blog.csdn.net/lin453701006/article/details/79026631，下面初步学习一下AMT相关代码。

JEM中，AMT分为EMT和EMTFAST两种，在cfg中可以设定，默认使用快速算法。

CommonDef.h中定义了AMT的重要参数，默认AMT最大可用块尺寸为64。

在实际应用中，EMT会有一个CU级的flagucEmtUsageFlag控制，分为3个值：

 // Marking EMT usage for faster EMT
  // 0: EMT not applicable for current CU (pcCU->getWidth(0) <= EMT_INTRA_MAX_CU)
  // 1: EMT can be applied for current CU, and DCT2 is being checked
  // 2: EMT is being checked for current CU. Stored results of DCT2 can be utilized for speedup

AMT与原HEVC DCT2竞争

AMT与原HEVC DCT2位竞争关系。对于帧内模式，在xCompressCU中会先做原HEVC DCT2，再进行一次EMT，两者竞争选最优。

for (UChar ucCuFlag = 0; ucCuFlag < ucEmtUsage; ucCuFlag++)
//默认配置ucEmtUsage=2，第一次执行DCT2，第二次执行EMT。
{
    xCheckRDCostIntra();
}

在xRecurIntraCodingLumaQT中，会根据当前CU是否使用EMT设置变换候选长度：

  UChar   nNumTrCands   = pcCU->getEmtCuFlag(uiAbsPartIdx) ? 4 : 1;

根据候选长度numTrIdxCands遍历所有变换索引，实现多核变换：

for (UChar ucTrIdx = 0; ucTrIdx < numTrIdxCands; ucTrIdx++)
      {
              xIntraCodingTUBlock();//其中会进行变换量化
      }

第一次执行原HEVC DCT2时，EMT不可用，候选长度为1，只执行一次。
第二次执行EMT时，候选长度为4，遍历四次，也就是变换集的两种变化核的4种组合。
在xIntraCodingTUBlock会获取对应的变换索引，进行对应的变换。

最终会通过率失真选出最优模式，记录对应的变换索引。

这样就完成了AMT与原HEVC DCT2的竞争。

变换函数xTrMxN_EMT

xTrMxN_EMT更详细的分析见 H.266代码学习：xT，xTrMxN，xTrMxN_EMT函数 第三部分。

AMT变换函数为xTrMxN_EMT，会根据输入的变换索引ucTrIdx和变换模式ucMode，对应帧内帧间模式表来选择变换模式，然后对水平垂直方向分别进行变换，其中fastFwdTrans为具体的变换函数。

/** MxN forward transform (2D)
*  \param bitDepth              [in]  bit depth
*  \param block                 [in]  residual block
*  \param coeff                 [out] transform coefficients
*  \param iWidth                [in]  width of transform
*  \param iHeight               [in]  height of transform
*  \param useDST                [in]
*  \param maxLog2TrDynamicRange [in]

*/

#if COM16_C806_EMT
void xTrMxN_EMT(Int bitDepth, TCoeff *block, TCoeff *coeff, Int iWidth, Int iHeight, Bool useDST, const Int maxLog2TrDynamicRange, UChar ucMode, UChar ucTrIdx )
{
  const Int TRANSFORM_MATRIX_SHIFT = g_transformMatrixShift[TRANSFORM_FORWARD];

#if JVET_C0024_QTBT
  //为保证精度，偏移在HEVC的基础上增加了2
  const Int shift_1st        = ((g_aucConvertToBit[iWidth] + MIN_CU_LOG2) +  bitDepth + TRANSFORM_MATRIX_SHIFT) - maxLog2TrDynamicRange + COM16_C806_TRANS_PREC;
  const Int shift_2nd        = (g_aucConvertToBit[iHeight] &