jieyannn的博客

通信的目的：传递信息通信的基本任务：在接收端将发送端发出的消息从形式上恢复出来信息量的三个基本要求：概率的函数，满足可加性，概率值越小信息量越大信息量：获得信息前后不确定性的消除量H(X/Y)≤H(X)：具有某种相关性的两随机变量，一个随机变量的出现总是有助于降低另一个随机变量的不确定性先验概率p(x)：信源符号的概率后验概率p(x/y)：接收端收到的符号为yj时，发送端发送的符号为...

差错控制编码的检错纠错功能：1.码重：码组中1的数目2.码距/汉明距离：两个码组中对应位上具有不同码的码元个数。3.检错纠错能力：某种编码能够发现或者纠正的错码的个数。为了能够检测e个错码，要求d0≥e+1为了能够纠正t个错码，要求d0≥2t+1为了能够同时纠正t个错码和检测e个错码，要求d0≥t+e+1接下来讲的编码都是差错控制编码。几种常用的简单编码：1.奇偶校验码：只有一位...

前提：信源符号集{X}信道编码后得到码字集{C}接收端接收到的码字序列{R}信道的特性可以用信道转移概率矩阵P(R/C)来表示。其中，更为重要的是信道后验概率矩阵P(C/R)，第i行第j列的概率p(cj/ri)表示接收端接收到码字ri时，发送端送的是码字cj的概率译码规则会对其译码性能，即误码率产生影响。具体数学上表示为：PE受信道转移概率矩阵P(R/C)、发送端码字概率P( C )...

1.霍夫曼编码规则：（1）先计算是否需要添加虚假符号。如果信源L种符号，D进制编码，则缩减次数a应该满足新增的虚假符号S‘的数目m（本质上是为了a次缩减后，剩下的符号数要满足D个）应满足增加的虚假符号S’概率都是0（2）将包括虚假符号在内的信源符号从小到大排列，然后将从小到大的D个Si分别标记为(D-1)…(0)（以D=2为例，应标为（1）（0））相加，得到的和再从与排序标记相加的过...

由定义式可以知道，主要问题：信源的符号数L、概率场{Si}已知，如何选择划分的符号数J，使得Jlog2L≤n1log2D，然后n1log2D尽可能小，来提高编码效率ηC=H(S)/n1log2D？解决方法：（1）均匀编码：将原本“信源的符号数为L，每J个符号一组来编码”产生的序列集数目LJ减少至典型序列TS(J,ε)的数目a。利用典型序列大概率的特性，我们就有可能在允许传输一定失真的...

信源编码信源编码的目的是提高传输效率信源编码的基本做法：（1）去除信息中的冗余度，使传输的符号间的相关度尽可能小（2）使编码后的符号具有近似等概的分布特性（3）采用不等长编码，对出现概率大的符号用较短的码元序列表示，对概率小的符号用较长的码元序列表示，从而提高传输效率（4）允许一定失真的条件下，如何实现高效编码信源编码的基本概念与参数信源的符号集为{S:Si，i=1，2，……L}，...

文章目录帮助理解信道和信源求解匹配信源分布特性和相应信道容量对称信道连续信源无记忆信道：信道输出的每个符号只与当前输入的符号有关，而于过去和未来的符号无关。帮助理解信道和信源离散信道模型可简单地如下表示xipy/xyjxi来自信源符号集X：xi，i=1，2，…，Myi来自信道输出符号集Y：yj，j=1，2，…，N条件概率/信道的转移概率p(yj/xi)表示：发送符号xi时，收到符号...

IXY=HX-HX/Y分子1分母分子2log2log2信道容量C平均互信息量 IXYpxy互信息量 Ixy熵 H平均熵 HX HY条件熵 HX/Ypx/ypx1.前提概念1.1 信道容量C：信道的最大信息传输速率信息传输速率RI由信源统计特性p(x)和信道转移概率p(y/x)决定。由于Rs是常数，因此信道容量由信源决定。求使平均信息量达到信道容量C的信源分布问题，可以转化为 求使平均互信息...

1.通信的术语通信的目的：传递消息中包含的信息。通信系统的目的：克服某种障碍，实现信息高效、准确的传递。狭义的通信系统：利用电信号和光信号来传递信息的电通信、光通信或电光混合。信息：消息中包含的有意义的内容，即包含受信者原来不知而待知的有效内容。消息：信息的物理表现形式消息是信息的载体，信息是消息的内涵。形式化：通信的基本任务是在接收端把发送端发出的消息从形式上恢复出来，而对消息内容...