信源编码与信道编码-Source coding Channel coding

概述

当我们衡量通信系统性能时，通常有两个重要的性能指标——有效性和可靠性。
通俗来讲，有效性就是我们的系统工作的时候是有效地，而没有在做过多的无用功。
可靠性是指我们的系统是靠谱的，传递的信息是正确的。

在数字通信系统中，我们用“0”和“1”组成的序列来代表我们要传输的信息。那么用什么样的规则来做“0-1序列”和实际信息的转换就是数字通信系统首先要解决的问题

信源编码

信源编码的目的就是要提高通信系统的有效性。更直观来讲，就是我们要设计编码方案，减少冗余位，用更少的“0”“1”码元来代表更多的信息。经典的信源编码方法有哈夫曼编码、LZ编码、算数编码等。

举例：

图片1由八个像素点组成，我们将图片1转化为0/1数据流，由于图片有5种颜色，我们至少要用3位来表示。
于是我们进行如下规定：（001：紫色，010：黄色，011：蓝色，100：黑色，101：白色）。
如果按照由左至右由上至下的顺序进行转换，我们就可以用（001 001 010 100 001 001 011 101）共24位来进行储存或传输这幅图片，完成了图片和0/1数据的转换。
那么，为了满足第一个问题中的要求，我们是否能够通过改变这种转换方式来减少转换之后得到的数据位的长度呢？
接下来，我们尝试另一种方法：
我们制定一个新的规定（0：紫色，1000：黄色，1001：蓝色，1010：黑色，1011：白色）如果按照由左至右由上至下的顺序进行转换，我们就可以用（0 0 1000 1010 0 0 1001 1011）共20位来进行储存或传输这幅图片，完成了图片和0/1数据的转换。
显然，因为我们用一位数表示了出现次数最多的紫色，从而减少了转换后数据的位数。新的编码方案能够用更少位数的0/1数据表示该图片。

信道编码

信道编码对应的目的是提高通信系统的可靠性。具体的方向是在已有的序列上增加冗余位，来使得序列具有纠检错的能力。这样在接收端就可以利用信道编码后的序列的这一特性进行纠错或者检错请求重传，以保证传输的可靠性。常见的方法有分组码、卷积码、添加CRC校验序列等。