信息论4—无失真信源编码（非延长码，霍夫曼编码）

菜且凶残_2017

于 2021-01-15 20:39:04 发布

阅读量3.7k

点赞数 2

分类专栏：机器学习文章标签：字符串网络通信机器学习

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/qq_38800089/article/details/112687425

版权

机器学习专栏收录该内容

30 篇文章

订阅专栏

这篇博客探讨了无失真信源编码的原理，包括单义可译码、非延长码和克拉夫不等式。重点讲解了霍夫曼编码，这是一种最佳码，用于降低平均码长，提高编码效率。博客还讨论了编码的平均码长与码率的关系，并提及了编码在无记忆和有记忆信源中的应用。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

无失真信源编码

单义可译码

码字非奇异，码字序列非奇异。

在这里插入图片描述

单义可译定理——克拉夫不等式

在这里插入图片描述

非延长码（即时码，在无失真信源编码中，常采用此码）

延长码：部分码字是其它码字的前缀。100是10的延长码，01就不是001的延长码。接收端接收到一个完整的码字后，不能立即译码，还需要等待下一个码字开始接收后才能判断是否译码。

非延长码一定是单义可译的

单义可译的不一定是非延长码

平均码长

在这里插入图片描述

码率

在这里插入图片描述

平均码长界定定理

在这里插入图片描述

香农第一定理

无记忆

在这里插入图片描述

有记忆

在这里插入图片描述

在这里插入图片描述

霍夫曼编码（计算题）（最佳码）

在这里插入图片描述

r元霍夫曼码

在这里插入图片描述

编码效率（平均码长）

在这里插入图片描述

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。