第三章-信道与信道容量（二）

接上一节第三章-信道与信道容量（一）

3.2离散单个符号信道及其容量

一．对称DMC信道例子

1.      DMC信道的信道容量C计算

对称信道转移概率矩阵中，每行元素都相同

1)        信道输入符号等概率分布p(ai)=1/n

2)        信道是对称的

3)        输入符号也是等概率分布的

4)        此时，H(Y)取得最大值

5)        对称DMC信道的容量为

其中，m为输出符号集中符号的个数

二．均匀信道（强对称信道）

信道输入符号和输出符号个数相同，且信道矩阵为：

信道中总的错误概率为p，对称地平均分配给r-1个输出符号，r为输入符号的个数

各行之和为1，而且各列之和也为1。而一般信道各列之和不一定等于1

三．准对称DMC信道的C

如果转移概率矩阵P是输入对称而输出不对称，即转移概率矩阵P的每一行都包含同样的元素而各列的元素可以不同，则称该信道是准对称DMC信道。

对于准对称DMC信道，当输入分布为等概分布时，互信息达到最大值，即为信道容量

四．一般DMC信道的C

1972年由R.Blahut和A.Arimoto分别独立提出的一种算法