— 无失真信源编码定理
— 无失真编码
— 香农码、费诺码和哈夫曼码
— 限失真信源编码定理
— 常用的信源编码方法
— 无失真
— 游程编码、算术编码
— 限失真
— 量化、预测和变换编码
— 三大极限定理
— 无失真信源编码定理为第一极限定理
— 信道编码定理(包括离散和连续信道)称为第二极限定理
— 本书第6章内容
— 限失真信源编码定理称为第三极限定理
一.信源编码的基本途径
1. 冗余度的产生
信源符号分布的不均匀性
信源符号之间的相关性
2. 减少冗余度的方法
l 使序列中的各个符号尽可能地互相独立,即解除相关性(常用)
l 使编码中各个符号出现的概率尽可能地相等,即概率均匀化
二.信源编码分类
1. 无失真离散信源编码定理
只适用于离散信源
信息传输率 < 信道容量C,总能以任意接近信道容量的传输率来传送消息