信源的类型以及数学模型小结

信源的类型以及数学模型小结

1.信源类型
2.信源的数学模型——自信息
3.信源的平均自信息——信息熵
4.信息熵的分类——{离散无记忆信源的信息熵、离散平稳信源的信息熵、马尔可夫信源的信息熵}
5.信息熵详解——离散信源的信息熵、联合熵、条件熵、平均符号熵、极限熵、
6.极限概率Q（e）、前向概率（转移概率）、先验概率、后验概率
7.信息冗余度——熵的相对率（Ho最大熵、Hoo现实熵）