CAVLC的全称是Context-Adaptive Varialbe-Length Coding,即基于上下文的自适应变长编码。CAVLC的本质是变长编码,它的特性主要体现在自适应能力上,CAVLC可以根据已编码句法元素的情况动态的选择编码中使用的码表,并且随时更新拖尾系数后缀的长度,从而获得极高的压缩比。H.264标准中使用CAVLC对4×4模块的亮度和色度残差数据进行编码。
在H.264标准编码体系中,视频图像在经过了预测、变换及量化编码后表现出如下的特性:4×4块残差数据块比较稀疏,其中非零系数主要集中在低频部分,而高频系数大部分是零;量化后的数据经过zig-zag扫描,DC系数附近的非零系数值较大,而高频位置上的非零系数值大部分是+1和-1;相邻的4×4块的非零系数的数目是相关的。CAVLC就是利用编码后残差数据的这些特性,通过自适应对不同码表的选择,利用较少的编码数据对残差数据进行无损的熵编码,进一步减少了编码数据的冗余和相关性,提高了H.264的压缩效率。
视频图像在经过预测、变换和量化编码后,需要经过Zig-zag扫描和重新的排序过程,为后序的CAVLC编码进行准备。一个残差数据块的CAVLC熵编码的流程如图所示:
1、TotalCoeffs和TrailingOnes的编码
从码流的起始位置开始计算整个编码块中非零系数的数目(TotalCoeffs),非零系数的数目为从0-16,非零系数的数目被赋值给变量TotalCoeffs。
拖尾系数是指码流中正或者负1的个数(+/-1)。拖尾系数的数目(TrailingOnes)被限定在3个以内,如果+/-1的数目超过3个,则只有最后3个被视为拖尾系数,其余的被视为普通的非零系数,拖尾系数的数目被赋值为变量TrailingOnes。
2、判断计算nC值
nC(Number Current 当前块值)值的计算集中体现了CAVLC的基于上下文的思想,通过nC值选择不同H.264标准附录CAVLC码表。
3、查表获得coeff_token编码
根据之前编码和计算过程所得的变量TotalCoeffs、TrailingOnes和nC值可以查H.264标准附录CAVLC码表,即可得出coeff_token编码序列。
4、编码每个拖尾系数的符号:前面的coeff_token编码中已经包含了拖尾系数的总数,还需进一步对拖尾系数的符号进行编码。由于拖尾系数符合为正(+)或负(-),因此,在H.264标准中规定用0表示正1(+1)、1表示负1(-1)。当拖尾系数的数目超过3个只有最后3个被认定为拖尾系数,因此对符号的编码顺序应按照反向扫描的顺序进行。
5、编码除拖尾系数之外的非零系数的幅值(Levels)
非零系数的幅值(Levels)由两个部分组成:前缀(level_prefix)和后缀(level_suffix)。levelCode、levelSuffixsSize和suffixLength是编码过程中需要使用的三个变量,其中levelCode是中间过程中用到的无符号数,levelSuffixsSize表示后缀长度位数,suffixLength代表Level的码表序号。
6、编码最后一个非零系数前零的数目(TotalZeros)
TotalZeros指的是在最后一个非零系数前零的数目,此非零系数指的是按照正向扫描的最后一个非零系数。因为非零系数数目(TotalCoeffs)是已知,这就决定了TotalZeros可能的最大值。根据TotalCoeffs值,H.264标准共提供了25个变长表格供查找,其中编码亮度数据时有15个表格供查找,编码色度DC 2×2块(4:2:0格式)有3个表格、编码色度DC 2×4块(4:2:2格式)有7个表格。
7、编码每个非零系数前零的个数(RunBefore)
在CAVLC中,变量 ZerosLeft表示当前非零系数左边的所有零的个数,ZerosLeft的初始值等于TotalZeros。每个非零系数前零的个数(RunBefore)是按照反序来进行编码的,从最高频的非零系数开始。H.264标准中根据不同ZerosLeft和RunBefore,构建了RunBefore编码表格供编码查找使用。根据表格每编码完一个RunBefore,对ZerosLeft的值进行更新,继续编码下一个RunBefore,直至全部完成所有非零系数前零的个数的编码。当ZerosLeft=0即没有剩余0需要编码时或者只有一个非零系数时,均不需要再进行RunBefore编码。
CAVLC熵解码是上述CAVLC熵编码的逆过程,CAVLC熵解码的输入数据是来自片层数据的比特流,解码的基本单位是一个4×4的像素块,输出为包含4×4块每个像素点所有幅值的序列。CAVLC解码步骤如下:
1. 初始化所有的系数幅值
2. 解码非零系数个数(TotalCoeff)和拖尾系数个数(TrailingOnes)。
3. 解码拖尾系数符号(trailing_ones_sign_flag)
4. 解码非零系数幅值
5. 解码total_zeros和run_before
6. 组合非零系数幅值和游程信息,得到整个残差数据块
CAVLC: Context-Adaptive Variable-Length Coding CAVLC模型选择主要体现:非零系数编码所需表格的选择和拖尾系数后缀长度的更新; 编码过程 2.编码非零系数的数目(TotalCoeffs: 0-16)和拖尾系数数目(TrailingOnes: 0-3) 3.编码每个拖尾系数的符号 4.编码除了拖尾系数之外的非零系数的幅值Levels 5)更新suffixLength 5.编码最后一个非零系数前零的数目TotalZeros 6.编码每个非零系数前零的个数RunBefore
2.确定TotalCoeffs和TrailingOnes 3.根据TrailingOnes确定拖尾1的符号 4.解析除拖尾系数之外的非零系数的幅值(解码Levels) 2)计算得到Level[i] 3)更新suffixLength 5.根据得到的TotalCoeff数值和TotalZeros编码值得到TotalZeros数值 6.解析每个非零系数前零的数目(解码RunBefore) 例子:假定用了Num-VLC0表 Reodered block: 编码 Decoding: |
[转贴] CAVLC编码过程详解——Sunrise
谨以此文献给QQ群“H.264乐园”和群里那些无私奉献的同行朋友!
也希望能对刚进入这个领域的朋友有所帮助,欢迎做过CAVLC的同行能批评指正!
编码过程:
假设有一个4*4数据块
{
0, 3, -1, 0,
0, -1, 1, 0,
1, 0, 0, 0,
0, 0, 0, 0
}
数据重排列:0,3,0,1,-1,-1,0,1,0……
1) 初始值设定:
非零系数的数目(TotalCoeffs) = 5;
拖尾系数的数目(TrailingOnes)= 3;
最后一个非零系数前零的数目(Total_zeros) = 3;
变量NC=1;
(说明:NC值的确定:色度的直流系数NC=-1;其他系数类型NC值是根据当前块左边4*4块的非零系数数目(NA)当前块上面4*4块的非零系数数目(NB)求得的,见毕厚杰书P120表6.10)
suffixLength = 0;
i = TotalCoeffs = 5;
2) 编码coeff_token:
查标准(BS ISO/IEC 14496-10:2003)Table 9-5,可得:
If (TotalCoeffs == 5 && TrailingOnes == 3 && 0 <= NC < 2)
coeff_token = 0000 100;
Code = 0000 100;
3) 编码所有TrailingOnes的符号:
逆序编码,三个拖尾系数的符号依次是+(0),-(1),-(1);
即:
TrailingOne sign[i--] = 0;
TrailingOne sign[i--] = 1;
TrailingOne sign[i--] = 1;
Code = 0000 1000 11;
4) 编码除了拖尾系数以外非零系数幅值Levels:
过程如下:
(1)将有符号的Level[ i ]转换成无符号的levelCode;
如果Level[ i ]是正的,levelCode = (Level[ i ]<<1) – 2;
如果Level[ i ]是负的,levelCode = - (Level[ i ]<<1) – 1;
(2)计算level_prefix:level_prefix = levelCode / (1<<suffixLength);
查表9-6可得所对应的bit string;
(3)计算level_suffix:level_suffix = levelCode % (1<<suffixLength);
(4)根据suffixLength的值来确定后缀的长度;
(5)suffixLength updata:
If ( suffixLength == 0 )
suffixLength++;
else if ( levelCode > (3<<suffixLength-1) && suffixLength <6)
suffixLength++;
回到例子中,依然按照逆序,Level[i--] = 1;(此时i = 1)
levelCode = 0;level_prefix = 0;
查表9-6,可得level_prefix = 0时对应的bit string = 1;
因为suffixLength初始化为0,故该Level没有后缀;
因为suffixLength = 0,故suffixLength++;
Code = 0000 1000 111;
编码下一个Level:Level[0] = 3;
levelCode = 4;level_prefix = 2;查表得bit string = 001;
level_suffix = 0;suffixLength = 1;故码流为0010;
Code = 0000 1000 1110 010;
i = 0,编码Level结束。
5)编码最后一个非零系数前零的数目(TotalZeros):
查表9-7,当TotalCoeffs = 5,total_zero = 3时,bit string = 111;
Code = 0000 1000 1110 0101 11;
6) 对每个非零系数前零的个数(RunBefore)进行编码:
i = TotalCoeffs = 5;ZerosLeft = Total_zeros = 3;查表9-10:
依然按照逆序编码
ZerosLeft =3, run_before = 1 run_before[4]=10;
ZerosLeft =2, run_before = 0 run_before[3]=1;
ZerosLeft =2, run_before = 0 run_before[2]=1;
ZerosLeft =2, run_before = 1 run_before[1]=01;
ZerosLeft =1, run_before = 1 run_before[0]不需要码流来表示
Code = 0000 1000 1110 0101 1110 1101;
编码完毕。
----------------------------------Sunrise------
[[i] 本帖最后由 firstime 于 2008-9-4 02:49 PM 编辑 [/i]]
请问斑竹,老毕书上120页表6.10中第2行和第三行的NA和NB是不是给弄反了?
应该是弄反了
请问trailing ones是指所有绝对值为1的系数的个数还是连续绝对值为1的系数的个数。
谢谢。
倒数三个 +/-1
另:可结合本论坛帖子“[url=http://bbs.chinavideo.org/viewthread.php?tid=1057][color=blue][b]CAVLC中的前缀和后缀[/b][/color][/url]”学习。
[[i] 本帖最后由 firstime 于 2008-5-20 09:59 PM 编辑 [/i]]
“如果Level[ i ]是负的,levelCode = - (Level[ i ]<<1) – 1”
假如Level[ i ]=-3,levelCode值是多少啊?
还有能不能详细讲解一下如何确定suffixLength的取值,它跟域值的关系怎么确定?
谢谢!
[[i] 本帖最后由 firstime 于 2007-1-27 10:06 PM 编辑 [/i]]
讨论
是JM86运行后的trace记录
@160 Luma # c & tr.1s(0,0) vlc=0 #c=11 #t1=1 000000000001110 ( 11)
@175 Luma trailing ones sign (0,0) 0 ( 0)
@176 Luma lev (0,0) k=9 vlc=1 lev= -2 11 ( -1)
@178 Luma lev (0,0) k=8 vlc=1 lev= -1 11 ( -1)
@180 Luma lev (0,0) k=7 vlc=1 lev= 1 10 ( 1)
@182 Luma lev (0,0) k=6 vlc=1 lev= -5 000011 ( -5)
@188 Luma lev (0,0) k=5 vlc=2 lev=-11 00000101 (-11)
@196 Luma lev (0,0) k=4 vlc=3 lev= -3 1101 ( -3)
@200 Luma lev (0,0) k=3 vlc=3 lev= 3 1100 ( 3)
@204 Luma lev (0,0) k=2 vlc=3 lev= 3 1100 ( 3)
@208 Luma lev (0,0) k=1 vlc=3 lev=-12 001111 (-12)
@214 Luma lev (0,0) k=0 vlc=3 lev= 9 001000 ( 9)
上面这段是trace.txt中的记录,根据前面的vlc=0 #c=11 #t1=1,就是trailing_ones 的个数是1个(@175 Luma trailing ones sign (0,0) 0 ( 0) )也能说明,但是在下面的level中,明明还要-1,1可以作为trailing_ones的,为什么不把这两个数当作trailing_ones呢??而是作为level呢????
回答
接上面的问题,在群里面讨论弄明白了
在CAVLC编码中,从右往左看,算trailing_ones时,在右边不能有abs()>1的数,还有算trailing_ones的个数的话,也不能被别的abs()>1的数隔断,如果隔断的话,只能计数到隔断数为止,而且要保证个数<=3。例如。。。。2,3,0,0,0,1,1,1,0,0,2 ,这个序列中triailing_ones是没有的。还有。。。。。1,0,0,-1,3,1,0,0,0,0,算trailing_ones 个数时,只能有一个也就是3后面的“1”算一个,3前面的-1和1由于被3隔断,所以不能算入其中。
[[i] 本帖最后由 dcfarmer 于 2007-6-7 03:27 PM 编辑 [/i]]
ZerosLeft =1, run_before = 1 run_before[0]不需要码流来表示
请问:为什么不需要码流来表示?
是因为是最后一位吗?
查表知:此时 run_before[0]=0
回复 #6 achen 的帖子
Level[ i ]=-3,levelCode值是多少啊?
levelcode应该是3
[size=12px]ZerosLeft =1, run_before = 1 run_before[0]不需要码流来表示
请问:为什么不需要码流来表示?
是因为是最后一位吗?
查表知:此时 run_before[0]=0[/size]
[size=12px] [/size]
[size=12px]---------------------------------------------------------[/size]
[size=12px] [/size]
[size=12px]I think it's because can know the vaule based on the value before. :)[/size]
2007-1-28 11:22 AM dcfarmer
讨论
是JM86运行后的trace记录
@160 Luma # c & tr.1s(0,0) vlc=0 #c=11 #t1=1 000000000001110 ( 11)
@175 Luma trailing ones sign (0,0) 0 ( 0)
@176 Luma lev (0,0) k=9 vlc=1 lev= -2 11 ( -1)
@178 Luma lev (0,0) k=8 vlc=1 lev= -1 11 ( -1)
@180 Luma lev (0,0) k=7 vlc=1 lev= 1 10 ( 1)
@182 Luma lev (0,0) k=6 vlc=1 lev= -5 000011 ( -5)
@188 Luma lev (0,0) k=5 vlc=2 lev=-11 00000101 (-11)
@196 Luma lev (0,0) k=4 vlc=3 lev= -3 1101 ( -3)
@200 Luma lev (0,0) k=3 vlc=3 lev= 3 1100 ( 3)
@204 Luma lev (0,0) k=2 vlc=3 lev= 3 1100 ( 3)
@208 Luma lev (0,0) k=1 vlc=3 lev=-12 001111 (-12)
@214 Luma lev (0,0) k=0 vlc=3 lev= 9 001000 ( 9)
请问上面这段TRACE记录对应的16个系数序列是什么?谢谢
好贴...
回复 #10 timek 的帖子
levelcode应该是5,level先乘2为-6,再取反减1
解码时因为levelcode为奇数,level = (‐levelCode‐1)/2
刚学习,受用了。谢谢
毕厚杰P123,6.8.6节中所给例子是否有误?是否应如下编码?
0 0 -1 0
5 2 0 0
3 0 0 0
1 0 0 0
数据重排:0,0,5,3,2,-1,0,0,0,1……
其中TotalCoeffs = 5, TrailingOnes = 2, Total_zeros = 5, NC = 3
编码过程:
元素 数值 编码
Coeff_token TotalCoeffs = 5, TrailingOnes = 2 0000101
Trailingones_sign_flag(1) + 0
Tranlingones_sign_flag(0) - 1
Level(2) 1 (suffixLenth = 0) 1
Level(1) 3 (suffixLength = 1) 0010
Level(0) 5 (suffixLength = 1) 000010
Total_zeros 5 101
Run_before(4) Zeroleft = 5, run_before = 3 010
Run_before(4) Zeroleft = 2, run_before = 0 1
Run_before(4) Zeroleft = 2, run_before = 0 1
Run_before(4) Zeroleft = 2, run_before = 0 1
Run_before(4) Zeroleft = 2, run_before = 2 无
最终编码输出:000010110010000010101010111
[[i] 本帖最后由 peiyangpr 于 2009-1-4 09:16 PM 编辑 [/i]]
residual_block_cavlc( coeffLevel, maxNumCoeff ) { C Descriptor
for( i = 0; i < maxNumCoeff; i++ )
coeffLevel[ i ] = 0
// coeff_token 指明了非零系数的个数,拖尾系数的个数。
coeff_token
if( TotalCoeff( coeff_token ) > 0 ) {
if( TotalCoeff( coeff_token ) > 10 && TrailingOnes( coeff_token ) <
3 )
suffixLength = 1
else
suffixLength = 0
for( i = 0; i < TotalCoeff( coeff_token ); i++ )
if( i < TrailingOnes( coeff_token ) ) {
// trailing_ones_sign_flag 拖尾系数的符号
- 如果trailing_ones_sign_flag = 0, 相应的拖尾系数是+1。
- 否则,trailing_ones_sign_flag =1,相应的拖尾系数是-1。
trailing_ones_sign_flag
level[ i ] = 1 – 2 * trailing_ones_sign_flag
} else {
// level_prefix and level_suffix 非零系数值的前缀和后缀。
level_prefix
levelCode = ( level_prefix << suffixLength )
if( suffixLength > 0 | | level_prefix >= 14 ) {
level_suffix
levelCode += level_suffix
}
if( level_prefix = = 15 && suffixLength = = 0 )
levelCode += 15
if( i = = TrailingOnes( coeff_token ) &&
TrailingOnes( coeff_token ) < 3 )
levelCode += 2
if( levelCode % 2 = = 0 )
level[ i ] = ( levelCode + 2 ) >> 1
else
level[ i ] = ( –levelCode – 1 ) >> 1
if( suffixLength = = 0 )
suffixLength = 1
if( Abs( level[ i ] ) > ( 3 << ( suffixLength – 1 ) ) &&
suffixLength < 6 )
suffixLength++
}
if( TotalCoeff( coeff_token ) < maxNumCoeff ) {
// total_zeros 系数中 0 的总个数。
total_zeros
zerosLeft = total_zeros
} else
zerosLeft = 0
for( i = 0; i < TotalCoeff( coeff_token ) – 1; i++ ) {
if( zerosLeft > 0 ) {
run_before
run[ i ] = run_before
} else
run[ i ] = 0
zerosLeft = zerosLeft – run[ i ]
}
run[ TotalCoeff( coeff_token ) – 1 ] = zerosLeft
coeffNum = -1
for( i = TotalCoeff( coeff_token ) – 1; i >= 0; i-- ) {
coeffNum += run[ i ] + 1
coeffLevel[ coeffNum ] = level[ i ]
}
}
}
本文来自CSDN博客,转载请标明出处:http://blog.csdn.net/xfding/archive/2010/04/12/5477464.aspx