算法系列(二):贪心算法--Huffman编码
一、分析
问题描述:
哈夫曼编码是广泛地用于数据文件压缩的十分有效的编码方法。其压缩率通常在20%~90%之间。哈夫曼编码算法使用字符在文件中出现的频率表来建立一个用0,1串表示各字符的最优表示方式。假设有一个数据文件包含100,000个字符,要用压缩的方法存储它。该文件中各字符出现的频率如表1-1所示。文件中共有6个不同字符出现,字符a出现45,000次,字符b出现13,000次等。
表1-1 字符出现的频率表
有多种方式表示文件中的信息。若用0,1码串表示字符的方法,即每个字符用唯一的一个0,1串表示。若采用定长编码表示,则表示6个不同的字符需要3位(6<2^3):a=000,b=001,......,f=101。用这种方法对整个文件编码需要300,000位;若采用变长编码表示,给频率高的字符较短的编码;频率低的字符较长的编码,达到整体编码减少的目的,编码如表所示,则整个文件编码需要(45×1+13×3+12×3+16×3+9×4+5×4)×1000=224,000位,由此可见,变长码比定长码方案好,总码长减小约25%。事实上,这是该文件的最优编码方案。
1.前缀码:对每一个字符规定一个0,1串作为其代码,并要求任一字符的代码都不是其他字符代码的前缀。这种编码称为前缀码。编码的前缀性质可以使译码方法非常简单;例如采用上例的编码,对于给定的0,1串001011101可唯一的分解为0,0,101,1101,因而其译码为aabe。
译码过程需要方便的取出编码的前缀,因此需要表示前缀码的合适的数据结构。为此,可以用二叉树作为前缀码的数据结构:树叶表示给定字符;从树根到树叶的路径当作该字符的前缀码;代码中每一位的0或1分别作为指示某节点到左儿子或右儿子的“路标”。
图1-2 前缀码的二叉树表示
容易看出,表示最优前缀码的二叉树总是一棵完全二叉树,即树中任一节点都有2个儿子。从图1-2a可以看出,定长编码方案不是最优的,其编码的二叉树不是一棵完全二叉树。在一般情况下,若C是编码字符集,表示其最优前缀码的二叉树中恰有|C|个叶子。每个叶子对应于字符集中的一个字符,该二叉树有 |C|-1 个内部节点(二叉树结论:n个节点的完全二叉树,叶子数为:⌈n/2⌉;分支节点数:⌊n/2⌋)。
给定编码字符集C及频率分布f,即C中任一字符c以频率f(c)在数据文件中出现。C的一个前缀码编码方案对应于一棵二叉树T。字符c在树T中的深度记为dT(c)。dT(c)也是字符c的前缀码长。则平均码长定义为:使平均码长达到最小的前缀码编码方案称为C的最优前缀码。
哈夫曼提出构造最优前缀码的贪心算法,由此产生的编码方案称为哈夫曼编码。
在哈夫曼编码分析之前先简单回顾贪心算法,贪心算法通过一系列的选择来得到问题的解。它所做的每一个选择都是当前状态下局部最好选择,即贪心选择。这种“选择就目前来看最好的”启发式的策略并不总能奏效,但也可能是最优的。
基本模式:
二、求解
2.构造哈夫曼编码:哈夫曼提出构造最优前缀码的贪心算法,由此产生的编码方案称为哈夫曼编码。
哈夫曼编码构造步骤如下:
(1)哈夫曼算法以自底向上的方式构造表示最优前缀码的二叉树T。
(2)算法以|C|个叶结点开始,执行|C|-1次的“合并”运算后产生最终所要求的树T。
(3)假设编码字符集中每一字符c的频率是f(c)。以f为键值的优先队列Q用在贪心选择时有效地确定算法当前要合并的2棵具有最小频率的树。一旦2棵具有最小频率的树合并后,产生一棵新的树,其频率为合并的2棵树的频率之和,并将新树插入优先队列Q。经过n-1次的合并后,优先队列中只剩下一棵树,即所要求的树T。
构造过程如图所示:
三、程序
设有文件有n个符号(即叶子节点数为n),则整个二叉树有(2n-1)个节点,组织在一个线性表中(如:数组)
每个哈夫曼树节点的数据结构:< c,f,p,l,r > (c:符号,f:频率,p:父亲节点,l:左孩子节点,r:右孩子节点)
例: 字符频率表:
构造二叉树:
存储节点的线性表:
程序分析及代码(Java):
(1)数据结构之优先队列PriorityQueue(详细请看Java API:http://www.yq1012.com/api/java/util/PriorityQueue.html)
类 PriorityQueue<E>:一个基于优先级堆的无界优先级队列。优先级队列的元素按照其自然顺序进行排序,或者根据构造队列时提供的Comparator
进行排序,具体取决于所使用的构造方法。 此队列的 队头 是按指定排序方式确定的最小/最大元素。队列获取操作 poll、remove、peek 和 element 访问处于队头的元素。
构造方法:
public PriorityQueue(int initialCapacity,
Comparator<? super E> comparator)
-
使用指定的初始容量创建一个
PriorityQueue
,并根据指定的比较器对元素进行排序。-
参数:
-
initialCapacity
- 此优先级队列的初始容量 -
comparator
- 用于对此优先级队列进行排序的比较器。如果该参数为null
,则将使用元素的自然顺序
抛出:
-
-