信息论day7：信道编码定理

前提：
信源符号集{X}
信道编码后得到码字集{C}
接收端接收到的码字序列{R}

信道的特性可以用信道转移概率矩阵P(R/C)来表示。

其中，更为重要的是信道后验概率矩阵P(C/R)，第i行第j列的概率p(c_j/r_i)表示接收端接收到码字r_i时，发送端送的是码字c_j的概率

译码规则会对其译码性能，即误码率产生影响。具体数学上表示为：P_E受信道转移概率矩阵P(R/C)、发送端码字概率P( C )、译码规则D( R )=C共同影响。因此，为了使出错概率最小，需要采用不同的译码规则。

最大后验概率译码准则（最通用）

若已知信道后验概率矩阵P(C/R)，最合理的译码规则是对每个收到的r_i，取相应的最可能发送的码字c_j作为译码输出，即
c_j=D(r_i)=argmax(p(c₁/r_i)、c₂/r_i)、…、c_M/r_i))
即c_j=D(r_i)取后验概率矩阵P(C/R)第i行的r_i里面，p(c_j