接上一节信源编码(一)简单介绍第五章的主要内容,下面介绍编码的具体定义
5.1 编码的定义
信源输出符号序列长度L=1,信源符号集A(a1,a2,…,an),信源概率空间为
若将信源X通过二元信道传输,就必须把信源符号ai变换成由0,1符号组成的码符号序列,这个过程就是信源编码。
码可分为两类:
固定长度的码,码中所有码字的长度 都相同,如表5-1中的码1就是定长码
可变长度码,码中的码字长短不一,如表中码2就是变长码。
不同的码符号序列,如表所示:
奇异码和非奇异码
若信源符号和码字是一一对应的,则该码为非奇异码。反之为奇异码。
如下表中的码1是奇异码,码2是非奇异码。
唯一可译码 和非唯一可译码
唯一可译码:任意有限长的码元序列,只能被唯一地分割成一个个的码字,便称为唯一可译码。
唯一可译码中又分为非即时码和即时码
定长码中每个码字长度相等,所以只要定长码是非奇异码,则必为唯一可译码。
对于变长码,需要判断
唯一可译码存在的充分和必要条件:各码字的长度Ki 应符合克劳夫特不等式: