数据无损压缩

一、数据冗余

1. 数据冗余概念

• 高数据冗余：数据可靠性强；低数据冗余：低存储消耗、低传输带宽需求
• 压缩比：消除掉的冗余数据/总冗余数据
• 冗余分类：
  人为冗余：冗余设备，如多机系统；冗余数据，如校验码；冗余并非多余。
  视听冗余：人的视听系统的局限性，去掉不会影响信息表达。
  数据冗余：单纯的数据中的冗余。

2. 决策量
   决策量是互斥事件数目的对数值。底数的取值不同，决策量的单位不同。
   

3. 信息量
   事件概率的另一种度量。
   
   可以推出，等概率事件集合，每个事件的信息量和集合的决策量相等。

4. 信息的熵

5. 数据冗余量

二、统计编码

三、RLE编码

四、词典编码

五、参考资料