P02014253 苏辰昱 信息论作业

1.对于信源的发送和接收，我们日常生活中有哪些应用？举例说明其工作原理与信息论的关系。

        以电报为例

        发送方将文字按固定方式转为长短信号，输入发报机，发报机按发出信息的要求，而发出不同频率和波长的电流，电报信息通过专用的交换线路以电信号的方式发送出去，被接收方收到并翻译成文字。这体现了信源的发送和接收的全过程，其中文字转化使用的编码即为信源编码，接收者翻译的过程即为解码

3.在通信系统中，除了常见的高斯白噪声还有哪些噪声会对我们无线传输造成影响？

1、白噪声

白噪声是指在较宽的频率范围内，各等带宽的频带所含的噪声功率谱密度相等的噪声。

一般在物理上把它翻译成白噪声（white noise）。

白噪声或白杂讯，是一种功率谱密度为常数的随机信号。换句话说，此信号在各个频段上的功率谱密度是一样的，由于白光是由各种频率（颜色）的单色光混合而成，因而此信号的这种具有平坦功率谱的性质被称作是“白色的”，此信号也因此被称作白噪声。相对的，其他不具有这一性质的噪声信号被称为有色噪声。

理想的白噪声具有无限带宽，因而其能量是无限大，但这在现实世界是不可能存在的。实际上，我们常常将有限带宽的平整信号视为白噪声，因为这让我们在数学分析上更加方便。白噪声在数学处理上比较方便，因此它是系统分析的有力工具。一般，只要一个噪声过程所具有的频谱宽度远远大于它所作用系统的带宽，并且在该带宽中其频谱密度基本上可以作为常数来考虑，就可以把它作为白噪声来处理。例如，热噪声和散弹噪声在很宽的频率范围内具有均匀的功率谱密度，通常可以认为它们是白噪声。

2、高斯白噪声

如果一个噪声，它的幅度分布服从高斯分布，而它的功率谱密度又是均匀分布的，则称它为高斯白噪声。

热噪声和散粒噪声是高斯白噪声。

所谓高斯白噪声中的高斯是指概率分布是正态函数，而白噪声是指它的二阶矩不相关，一阶矩为常数，是指先后信号在时间上的相关性。这是考查一个信号的两个不同方面的问题。

6、简述LZ编码原理，并举例说明[按照书中例5-10的条件，若输入信源符号序列U=(abbabaabbabab）则对应的输出编码是什么？】

1、编码原理

设信源符号集A={a1,a2,…,ak}共有K个符号，设输入信源符号序列U={U1,u2,…,uL),编码是将此序列分成不同的段。分解是迭代进行的，在第i步，编码器从si-1短语后的第一个符号开始向后搜索在此之前未出现过的最短短语si，将短语si添入字典第i段。由于si是此时字典中最短的新短语，所以si在去掉最后一个符号x后所得的前缀必定是字典中之前已经出现过的。若设此前缀是在第j(＜i）步时出现的，则对si的编码就可以利用j和si最后一位符号x来表示，即为码字（j,x）。对于段号j,最多需要[log i]bit表示，而符号x只需[log K]bit。若编码后的字典中短语共有M(U)个，则U序列编码后输出的码流总长度为

书例5-10

短语	a	b	ba	baa	bb	ab	ab
段号	1	2	3	4	5	6	7
码字	(0,a)	(0,b)	(2,a)	(3,a)	(2,b)	(1,b)	(1,b)
二进制码	(0,0)	(0,1)	(10,0)	(11,0)	(010,1)	(001,1)	(001,1)

U=(abbabaabbabab）

二进制码流为0001100110010100110011