备考通信复试过程中的一些知识点总结梳理——信道编码

讲完信源编码的内容之后，我们进入信道编码的学习，也是信息论模块的最后一课。

首先依旧先来定义，什么是信道编码？一般来讲信息传输涉及可行性编码，可靠性编码，有效性编码和安全性编码这四个领域的编码或信号设计。信息传输通过数据传输实现，而数据传输通过信号传输实现。有效性编码和可行性编码完成信息至数据的转换，调制与可靠性编码完成数据至信号的转换。其中可靠性编码又常称为信道编码，狭义的的信道编码又称为纠错编码，主要目的是通过设计信号自身具有的数据结构，使信息传输的接收端能够检验或纠正数据在传输中发生的部分差错。总的来说，信道编码是为了减少数字信号在传输过程中收到干扰而产生的误差，为了提高传输的可靠性。目前在数据传输方式中主要有三种差错控制方式：自动请求重发（ARQ), 前向纠错和混合纠错方式。

在传输符号层次上，编码信道抽象为符号的概率转移过程。按符号的差错分布特性不同，可将编码信道上的差错形式简单的分为随机差错和突发差错两类。

随机差错是符号差错在传输符号序列中均匀分布的差错形式，它发生的一个必要条件就是信道无记忆性或独立性，即任何传输时序点上的差错不相关。突发差错形式就是符号差错在传输符号序列中有局部高密度分布的差错形式，瑞利随机衰落总会导致突发差错的出现。

这里插句题外话，来讲解一下瑞利分布和莱斯分布的概念。瑞利分布就是一个均值为0，方差为σ^2的平稳窄带高斯过程，其包络的一维分布是瑞利分布。瑞利分布是最常见的用于描述平坦衰落信号接收包络或独立多径分量接收包络统计时变特性的一种分布类型。两个正交高斯噪声信号之和的包络服从瑞利分布。莱斯分布就是正弦波加窄带高斯过程的包络概率密度函数分布，也称为广义瑞利分布。发射信号经历无直射路径的N条独立的衰落路径，接收的合成信号的包络服从瑞利分布衰落；多径信道中，存在较强的某路信号，且它占有支配地位，此时接收信号包络的衰落变化服从莱斯分布。

言归正传，介绍完了信道编码的概念以及差错的类型之后，我们来简单认识几种常用的信道。

BSC信道，又称二元对称信道，信道容量为：C=1-H(f),转移矩阵和图像表示为：

 BEC信道，又称二元删除信道，信道容量为：C=1-f (x为均匀分布）, 转移矩阵和图像表示为：

 Z信道，其转移矩阵和图像表示为：

 接下来我们进入编码的部分。纠错码的纠错能力是由构造码字的精巧数学结构保障的，这些数学结构的主要特征也就成为纠错码的基本结构特征，有汉明重量，汉明距离，最小码距等。

汉明重量的定义是n维向量a中非0码元分量的个数，向量a,b之间不同分量的个数就是码距，又称为汉明距离，一个有效集中，任意两个码字的汉明距离最小值，称为该编码集的汉明距离。在译码时通常采用两种不同的准则，最大似然准则和最大后验准则，两者的区别就是最大似然估计不需要事先知道先验概率p(x)，而最大后验概率估计需要已知先验概率，根据贝叶斯公式来求后验概率。由最大似然译码原理可见，最小化译码差错概率等价为最大化码字信号间距离。所以纠错码设计的第一目标是给定码长和码字数条件下，设计的码的最小汉明距最大，另一方面信息传输追求单位信号传输的消息量最大或者编码码率最大，因此纠错码设计的第二目标是在给定码长和最小距离的条件下，设计的码字数最大。

纠错码通过最小距离d来约束纠错检错性能，在分组码中，最小距离如果为d，那么该码的最大检错数td和纠错数tc满足：

在检错模式时（译码器支队接收信号给出有无传输差错的标志）：td=d-1;

在纠错模式时（译码器对接收信号进行纠错）：tc=[(d-1)/2]([x]为小于等于x的最大整数)

在混合检错模式时（又称为限定距离模式）：td+tc≤d-1 并有tc<td(检错数大于纠错数）

纠错码根据研究途径不同有多种基本分类，如：

根据消息分组与码字的对应关系是一对一还是多对一，分为分组码和卷积码；

根据码字是否具有循环移位不变性分为循环码和非循环码，循环码因其循环特性而极大的简化了工程实现；

按码字集合是否为线性空间分为线性码和非线性码；

按照是否以汉明距离度量码字间以及码字与接收向量之间的差异分为汉明空间码和非汉明空间码。

我们在学习中常见的几种说法就是线性分组码，卷积码和循环码。接下来简单介绍一下这三者的概念。

分组编码是在n个码元之间构造某种约束关系，而使其成为一个逻辑整体，并称此整体为码字，全体码字称为一个码。也就是说，分组码将编码信息分组单独进行编码，因此无论在编码还是译码的过程中，不同码组之间的码元无关。线性分组码就是指码组中的监督码和信息码之间满足线性方程。线性分组码具有封闭性，即任意两个可用码组之和仍为一个可用码组。线性分组码码的最小距离等于非零码的最小码重。线性分组码一般用（n,k)表示，n比特码字，k比特信息，（n-k）比特校验位。

线性码中最常见的就是汉明码。

 汉明码要先求解n×k的生成矩阵GT，码字C=GTX；之后解出校验矩阵H,HGT=0，收到信息r以后，有s=Hr，如果s≠0，有错误图案e,查表得到错误图案e，令接受信号r与e异或即可解码c。

循环码是线性分组码中一种重要的码型，它在严密的代数理论基础上建立起来。这种码的编码和解码设备都不太复杂，并且检错和纠错能力较强。除了具备线性码的一般性质外，其还具有循环性，即任意码组循环一位之后，仍为该码中的一个码组。

卷积码是非分组码的典型代表，也称连环码，他与分组码的区别在于卷积编码器是由记忆的，对于给定的时段，编码器的输出不仅与此刻时段的输入有关，而且和前面的输入有关。它不将信息分组再编码，而是由连续输入的信息得到连续输出的已编码序列。

卷积码有3个参数（n,k,m), n为并行输出的比特数；k为并行输入的比特数；m为最大记忆区间；约束长度K=m+1，K越大，冗余越多，纠错能力越强，译码时延越长。码率为k/n表示每个编码位所含的信息位数量。

卷积码的编码主要有两种表示方法，解析法和图形法。解析法多用于对编码描述，包括生成法：生成序列，生成矩阵；多项式法。图形法多用于译码表述，包括树图法，状态图法，格图法。

树图法用实线表示输入0，虚线表示输入1，按时间顺序展开，显示出编码器的输入、输出的所有可能情况；缺点就是结构太复杂，重复性太多。状态图状态用圆圈表示状态，共2^km种状态；:圆圈之间的连线表转移信息示，x/c即为输入bit x，输出c。由于状态图只能表示状态之间的转移关系，无法表示状态转移的时间节拍，因此引入格图法。格图法也常常用于维特比译码。卷积译码的最主要方式就是维特比译码，它是按照最大似然法则译码，也就是等效的最小汉明距离译码，通过格图比较每条路径的汉明距离，找到最小的汉明距离路径输出。维特比译码的格图表示为：