huffman树_信息论作业-计算英文信源的Huffman编码

作业描述

将英文信源(26个英文字母加1个空格)当作n次扩展信源，编程计算信源的熵

。

编程实现对其进行Huffman编码，并计算编码效率。

• 原理描述

英文字母进行Huffman编码，首先按英文字母按出现的概率大小排队，把两个最小的概率相加，作为新的概率和剩余的概率重新排队，再把最小的两个概率相加，再重新排队，直到最后变成1。每次相 加时都将“0”和“1”赋与相加的两个概率，读出时由该符号开始一直走到最后的“1”， 将路线上所遇到的“0”和“1”按最低位到最高位的顺序排好，就是该字母的赫夫曼编码。

• 程序源码

#!/usr/bin/env python

• 程序运行结果

英文信源的熵计算得到的是4.07 bit；英文信源经过Huffman编码后平均码长为4.11 bit；英文信源若采用Huffman编码，其编码效率为99.02%，其运行结果如下所示。

参考：

英文信源字母频率参考​www.datacompression.com kainhuck/-Huffman-code​github.com