x265 costCoeffNxN_c函数 实现原理

costCoeffNxN_c函数用来计算NxN 系数编码代价，通过数组预估的bits

Static uint32_t costCoeffNxN_c(const uint16_t *scan, const coeff_t *coeff, intptr_t trSize, uint16_t *absCoeff, const uint8_t *tabSigCtx, uint32_t subCoeffFlag, uint8_t *baseCtx, int offset, int scanPosSigOff, int subPosBase)

{

    Uint32_t numNonZero = (scanPosSigOff < (SCAN_SET_SIZE - 1)?1:0);

    Uint32_t sum = 0;

    

    //correct offset to match assembly

    absCoeff -= numNonZero;

    Do

    {

        Uint32_t blkPos, sig, ctxSig;

        blkPos = scan[scanPosSigOff];

        Const uint32_t posZeroMask = (subPosBase + scanPosSigOff)?~0:0;

        Sig = (subCoeffFlag >> scanPosSigOff)&1;

        If ((scanPosSigOff != 0) || (subPosBase == 0) || numNonZero)

        {

             Const uint32_t cnt = tabSigCtx[blkPos] + offset;

             ctxSig = cnt & posZeroMask;

             Const uint32_t mstate = baseCtx[ctxSig];

             Const uint32_t mps = mstate & 1;

             Const uint32_t stateBits = PFX(entropyStateBits)[mstate ^ sig];

             Uint32_t nextState = (stateBits >> 24) + mps;

             If ((mstate ^ sig) == 1) //发生翻转

                 nextState = sig;

             baseCtx[ctxSig] = (uint8_t)nextState;

             Sum += stateBits;

       }

       absCoeff[numNonZero] = abs(coeff[scanPosSigOff]);

       numNonZero += sig;

       scanPosSigOff –;

    }

    While (scanPosSigOff >= 0)

    Return (sum & 0xFFFFFFFF);

}

这段代码是一个C语言函数，功能是计算在视频编码过程中的残差系数的编码成本。函数的参数和返回值如下：

Scan 一个指向uint16_t 类型的指针，表示扫描模式，用于确定残差系数的扫描顺序。

Coeff 一个指向coeff_t 类型的指针，表示残差系数数组。

trSize:intptr_t 类型，表示变换块的大小。

absCoeff:一个指向uint16_t 类型的指针，用于存储绝对系数

tagSigCtx:一个指向uint8_t 类型的指针，用于存储符号上下文表。

subCoeffFlag:uint32_t 类型，表示子系统的符号标志

baseCtx:一个指向uint8_t 类型的指针，表示基础上下文状态

Offset:int 类型，表示偏移量

scanPosSigOff: int类型，表示扫描位置的符号偏移

subPosBase: int类型，表示子位置的基础值。

 

函数的逻辑流程如下

1 初始化numNonZero变量，表示非零系数的数量，如果scanPosSigOff 小于SCAN_SET_SIZE - 1, 则初始化值为1，否则为0

2 初始化sum变量，用于累计编码成本

3 调整baseCoeff 指针，以匹配汇编代码重的偏移。

4 进入一个循环，直到scanPosSigOff 小于或等于0；

计算当前块的位置blkPos

计算posZeroMask, 如果subPosBase + scanPosSigOff不为0， 则为~0, 否则为0.

从subCoeffFlag 中获得当前位置的符号标志sig。

检查coeff[scanPosSigOff] 的符号是否与sig一致

如果当前位置不是第一个位置，或者subPosBase 不为0，或者存在非零系数，则进行以下操作：

计算符号上下文索引ctxSig

获取当前状态Mstate

计算下一个状态nextState

检查nextState 是否正确

更新基础上下文状态baseCtx[ctxSig]

将状态位置加到sum中。

存储当前系统的绝对值到absCoeff数组。

更新numNonZero和scanPosSigOff

5 断言 numNonZero和blkPos的值在合理范围内

6 返回编码成本sum，只保留低24位。

 

Static uint32_t costCoeffNxN_c(const uint16_t *scan, const coeff_t *coeff, intptr_t trSize, uint16_t *absCoeff, const uint8_t *tabSigCtx, uint32_t subCoeffFlag, uint8_t *baseCtx, int offset, int scanPosSigOff, int subPosBase)

{

    //初始化非零系数的计算器

    Uint32_t numNonZero = (scanPosSigOff < (SCAN_SET_SIZE - 1) ? 1:0);

    //初始化编码成本的累加器

    Uint32_t sum = 0;

    //调整absCoeff 指针，以匹配汇编代码中的偏移

    absCoeff -= numNonZero;

    Do

    {

        Uint32_t blkPos, sig, ctxSig;

        //获取当前扫描位置的块位置

        blkPos = scan[scanPosSigOff];

        //计算posZeroMask, 用于后续计算符号上下文索引

        Const uint32_t posZeroMask = (subPosBase + scanPosSigOff)?~0:0;

        //从SubCoeffFlag 中获取当前位置的符号标志

        Sig = (subCoeffFlag >> scanPosSigOff) & 1;

        //检查系数的符号是否与sig一致

        //如果不是第一个位置，或者subPosBase 不为0，或者存在非零系数，则计算编码成本。

        If ((scanPosSigOff != 0) || (subPosBase == 0) || numNonZero)

        {

            Const uint32_t cnt = tagSigCtx[blkPos] + offset;

            ctxSig = cnt & posZeroMask;

            //获取当前状态

            Const uint32_t mstate = baseCtx[ctxSig];

            //获取当前的符号（0或1）

            Const uint32_t mps = mstate & 1;

            //根据当前状态和符号计算下一个状态和熵编码比特数

            Const uint32_t stateBits = PFX(entropyStateBits)[mstate ^ sig]; //预估bits

            Uint32_t nextState = (stateBits >> 24) + mps;

            //如果发生状态翻转，则更新nextState

            If ((mstate ^ sig) == 1)

                nextState = sig;

            baseCtx[ctxSig] = (uint8_t)nextState;

            Sum += stateBits;

        }

       //确保numNonZero和blkPos 有效范围內

       //存储当前系数的绝对值

       absCoeff[numNonZero] = abs(coeff[scanPosSigOff]);

       //非零系数数量增加

       numNonZero += sig;

       //移动到下一个扫描位置

       scanPosSigOff–;

    }

    //继续循环知道所有的扫描位置都被处理

    While (scanPosSigOff >= 0)

    //返回累加的成本，只取低24 位

    Return (sum & 0xFFFFFF);

}