信息论与编码技术+(冯桂+林其伟+陈东华+著)+清华大学出版社+课后答案.pdf
Chap1 思考题与习题 参考答案
1.1 信息论与编码技术研究的主要内容是什么?
信息论是一门应用概率论、随机过程、数理统计和近代代数的方法,来研究广义的信息传输、提取
和处理系统中一般学科。编码技术研究的主要内容是如何既可靠又有效地传输信息。
1.2 简述信息理论与编码技术的发展简史。
1948年香农在贝尔系统技术杂志上发表了两篇有关“通信的数学理论”的文章。在这两篇论文中,
他用概率论测度和数理统计的方法系统地讨论了通信的基本问题,得出了及格重要而带有普遍意义的结
论,并由此奠定了现代信息论的基础。
从 1948 年开始,信息论的出现引起了一些有名的数学家如柯尔洛夫、A.Feinstein、J.Wolfowitz 等
人的兴趣,他们将香农已得到的数学结论做了进一步的严格论证和推广,使这一理论具有更为坚实的数
学基础。
在研究香农信源编码定理的同时,另外一部分科学家从事寻找最佳编码(纠错码)的研究工作,并
形成一门独立的分支——纠错码理论。
1959 年香农发表了“保真度准则下的离散信源编码定理”,首先提出了率失真函数及率失真信源
编码定理。从此,发展成为信息率失真编码理论。
香农 1961年的论文“双路通信信道”开拓了网络信息论的研究。
现在,信息理论不仅在通信、计算机以及自动控制等电子学领域中得到直接的应用,而且还广泛地
渗透到生物学、医学、生理学、语言学、社会学、和经济学等领域。
1.3 简述信息与消息、信号的定义以及三者之间的关系