香农编码 哈夫曼编码 费诺编码的比较
文章目录
哈夫曼编码
编码步骤
例子
优点
缺点
费诺编码
编码步骤
例子
优点
缺点
香农编码
编码步骤
例子
优点
缺点
参考
备注:本文除了例子与数据,其他内容均为整合网络资源。
哈夫曼编码
编码步骤
S1 将信源符号按照概率大小从大到小排列;
S2 把概率最小的两个信源符号分成一组,其中,上面一个编码为0,下面一个编码为1,并将这两个符号的概率加起来,其结果再与尚未处理过的符号重新按照大小排序;
S3 重复步骤2,直到所有的信源符号都处理完毕;
S4 从右至左按照编码路径返回,即可得到各个码字。
例子
假设一信息源发出五个信号,每个信号的概率分布如下:
信号
u1
u2
u3
u4
u5
概率
0.2
0.2
0.4
0.1
0.1
编码过程如下图: