[信息论与编码]离散信道及信道容量(一）

2021/11/28 from Xwhite

信道的分类

信道是信号的传输媒介、是传送信息的物理通道

• 按照输入输出信号的幅度和时间特性划分

幅度	时间	信道分类名称
离散	离散	离散信道（数字信道）、对讨论编码有用
连续	离散	连续信道
连续	连续	模拟信道（波形信道）、是实际信道、具有重要意义
离散	连续	理论和实用价值较小，不做讨论

• 按照输入输出间的记忆性划分

  • 无记忆信道：信道在某时刻的输出概率仅依赖于当前时刻的输入，而与先前时刻的输入或输出无关；
  • 有记忆信道：信道在某时刻的输出与其他时刻的输入或输出有关

• 按照输入输出之间是否有确定关系划分

  • 无干扰信道 输入与输出之间具备确定的相互关系，即传输过程中不会出现差错
  • 有干扰信道 与无干扰信道对应

• 按照统计特性的平稳性划分

  • 平稳信道 统计特性不随时间改变而改变，亦称恒参信道，时不变信道
  • 非平稳信道 统计特性随时间改变而改变，亦称随参信道，时变信道

• 按照输入和输出的个数划分

  • 单用户信道 单输入单输出的单向通信;
  • 多用户信道 双向通信或三个或更多用户之间的相互通信的情况

离散信道的数学模型

由于干扰存在，所以输出和输入之间会存在一定的概率关系，用条件概率表示，转移概率一共有r^N*s^N项

• 无干扰信道（无噪信道）

信道中没有干扰，输出与输入序列之间有确定的一一对应关系$\vec{Y}$=f($\vec{X}$)

• 有干扰无记忆信道
  

有干扰 指的是信道中有干扰，输出与输入序列之间无确定的对应关系，此时我们应用一般的概率分布表征信道的统计特性；

无记忆 指的是信道在某时刻的输出序列仅依赖于对应时刻的输入序列，而与其他时刻的输入或输出无关，则称信道为无记忆；

• 有记忆有干扰信道

输入输出无对应关系，输出符号不但与对应时刻输入有关，还与之前其它时刻的输入和输出有关

单符号离散信道

离散无记忆信道一般都看做离散无记忆恒参（平稳）信道；

故对离散无记忆信道的研究只需研究单个符号的传输即可，所以也叫单符号离散信道

信道传递概率矩阵

例1

例2

常用概率及其关系