costCoeffNxN_c函数用来计算NxN 系数编码代价,通过数组预估的bits
Static uint32_t costCoeffNxN_c(const uint16_t *scan, const coeff_t *coeff, intptr_t trSize, uint16_t *absCoeff, const uint8_t *tabSigCtx, uint32_t subCoeffFlag, uint8_t *baseCtx, int offset, int scanPosSigOff, int subPosBase)
{
Uint32_t numNonZero = (scanPosSigOff < (SCAN_SET_SIZE - 1)?1:0);
Uint32_t sum = 0;
//correct offset to match assembly
absCoeff -= numNonZero;
Do
{
Uint32_t blkPos, sig, ctxSig;
blkPos = scan[scanPosSigOff];
Const uint32_t posZeroMask = (subPosBase + scanPosSigOff)?~0:0;
Sig = (subCoeffFlag >> scanPosSigOff)&1;
If ((scanPosSigOff != 0) || (subPosBase == 0) || numNonZero)
{
Const uint32_t cnt = tabSigCtx[blkPos] + offset;
ctxSig = cnt & posZeroMask;
Const uint32_t mstate = baseCtx[ctxSig];
Const uint32_t mps = mstate & 1;
Const uint32_t stateBits = PFX(entropyStateBits)[mstate ^ sig];
Uint32_t nextState = (stateBits >> 24) + mps;
If ((mstate ^ sig) == 1) //发生翻转
nextState = sig;
baseCtx[ctxSig] = (uint8_t)nextState;
Sum += stateBits;
}
absCoeff[numNonZero] = abs(coeff[scanPosSigOff]);
numNonZero += sig;
scanPosSigOff –;
}
While (scanPosSigOff >= 0)
Return (sum & 0xFFFFFFFF);
}
这段代码是一个C语言函数,功能是计算在视频编码过程中的残差系数的编码成本。函数的参数和返回值如下:
Scan 一个指向uint16_t 类型的指针,表示扫描模式,用于确定残差系数的扫描顺序。
Coeff 一个指向coeff_t 类型的指针,表示残差系数数组。
trSize:intptr_t 类型,表示变换块的大小。
absCoeff:一个指向uint16_t 类型的指针,用于存储绝对系数
tagSigCtx:一个指向uint8_t 类型的指针,用于存储符号上下文表。
subCoeffFlag:uint32_t 类型,表示子系统的符号标志
baseCtx:一个指向uint8_t 类型的指针,表示基础上下文状态
Offset:int 类型,表示偏移量
scanPosSigOff: int类型,表示扫描位置的符号偏移
subPosBase: int类型,表示子位置的基础值。
函数的逻辑流程如下
1 初始化numNonZero变量,表示非零系数的数量,如果scanPosSigOff 小于SCAN_SET_SIZE - 1, 则初始化值为1,否则为0
2 初始化sum变量,用于累计编码成本
3 调整baseCoeff 指针,以匹配汇编代码重的偏移。
4 进入一个循环,直到scanPosSigOff 小于或等于0;
计算当前块的位置blkPos
计算posZeroMask, 如果subPosBase + scanPosSigOff不为0, 则为~0, 否则为0.
从subCoeffFlag 中获得当前位置的符号标志sig。
检查coeff[scanPosSigOff] 的符号是否与sig一致
如果当前位置不是第一个位置,或者subPosBase 不为0,或者存在非零系数,则进行以下操作:
计算符号上下文索引ctxSig
获取当前状态Mstate
计算下一个状态nextState
检查nextState 是否正确
更新基础上下文状态baseCtx[ctxSig]
将状态位置加到sum中。
存储当前系统的绝对值到absCoeff数组。
更新numNonZero和scanPosSigOff
5 断言 numNonZero和blkPos的值在合理范围内
6 返回编码成本sum,只保留低24位。
Static uint32_t costCoeffNxN_c(const uint16_t *scan, const coeff_t *coeff, intptr_t trSize, uint16_t *absCoeff, const uint8_t *tabSigCtx, uint32_t subCoeffFlag, uint8_t *baseCtx, int offset, int scanPosSigOff, int subPosBase)
{
//初始化非零系数的计算器
Uint32_t numNonZero = (scanPosSigOff < (SCAN_SET_SIZE - 1) ? 1:0);
//初始化编码成本的累加器
Uint32_t sum = 0;
//调整absCoeff 指针,以匹配汇编代码中的偏移
absCoeff -= numNonZero;
Do
{
Uint32_t blkPos, sig, ctxSig;
//获取当前扫描位置的块位置
blkPos = scan[scanPosSigOff];
//计算posZeroMask, 用于后续计算符号上下文索引
Const uint32_t posZeroMask = (subPosBase + scanPosSigOff)?~0:0;
//从SubCoeffFlag 中获取当前位置的符号标志
Sig = (subCoeffFlag >> scanPosSigOff) & 1;
//检查系数的符号是否与sig一致
//如果不是第一个位置,或者subPosBase 不为0,或者存在非零系数,则计算编码成本。
If ((scanPosSigOff != 0) || (subPosBase == 0) || numNonZero)
{
Const uint32_t cnt = tagSigCtx[blkPos] + offset;
ctxSig = cnt & posZeroMask;
//获取当前状态
Const uint32_t mstate = baseCtx[ctxSig];
//获取当前的符号(0或1)
Const uint32_t mps = mstate & 1;
//根据当前状态和符号计算下一个状态和熵编码比特数
Const uint32_t stateBits = PFX(entropyStateBits)[mstate ^ sig]; //预估bits
Uint32_t nextState = (stateBits >> 24) + mps;
//如果发生状态翻转,则更新nextState
If ((mstate ^ sig) == 1)
nextState = sig;
baseCtx[ctxSig] = (uint8_t)nextState;
Sum += stateBits;
}
//确保numNonZero和blkPos 有效范围內
//存储当前系数的绝对值
absCoeff[numNonZero] = abs(coeff[scanPosSigOff]);
//非零系数数量增加
numNonZero += sig;
//移动到下一个扫描位置
scanPosSigOff–;
}
//继续循环知道所有的扫描位置都被处理
While (scanPosSigOff >= 0)
//返回累加的成本,只取低24 位
Return (sum & 0xFFFFFF);
}