信息论之哈夫曼编码

哈夫曼编码是信息论中的一种前缀编码方法,通过将概率较小的符号编码为较短的码字,逐步合并构建哈夫曼树。在编码过程中,按概率排序并依次标记0和1,直至所有概率相加等于1。虽然不同的哈夫曼编码可能产生不同的码字,但码长是固定的,不影响编码效率。平均码长相同,表明编码效率一致,而码方的方差小则意味着编码质量更优。
摘要由CSDN通过智能技术生成

 先将信源符号的概率按从小到大排序,将最小两个的概率分别标记为0和1,相加;

重新再一轮排序,也按照从小到大,仍然将最小的两个概率标记0和1,相加;

直到最后相加的总概率为1.0,即完成。

码字W1是按照对应一行的信源符号ai的概率p(ai)在编码过程中担任了0or1,先标记的数字在后面,后标记的在前面。

码长Ki为二进制码字的位数。

将表5-5和5-6中编码过程横向看即可发现,将括号指向的箭头的数字所在的那一行信源符号ai作为根节点,能够形成为哈夫曼树,即是图5-7中竖向看的哈夫曼树。

因为此编码中最后两个概率最小符号,用0和1是可以任意的,所以可以得到不同的哈夫曼码,即表格中码字Wi不是唯一的,得到的码不是唯一码。但码长是一定的,即不被影响。

两种哈夫曼编码,经计算,平均码长相等,编码效率一致,从码方来看,表格5-6方差小,质量要好,充分利用短码。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值