信息论与编码冯桂周林著答案_信息论与编码技术+(冯桂+林其伟+陈东华+著)+清华大学出版社+课后答案.pdf...

信息论与编码技术+(冯桂+林其伟+陈东华+著)+清华大学出版社+课后答案.pdf

Chap1 思考题与习题 参考答案

1.1 信息论与编码技术研究的主要内容是什么？

信息论是一门应用概率论、随机过程、数理统计和近代代数的方法，来研究广义的信息传输、提取

和处理系统中一般学科。编码技术研究的主要内容是如何既可靠又有效地传输信息。

1.2 简述信息理论与编码技术的发展简史。

1948年香农在贝尔系统技术杂志上发表了两篇有关“通信的数学理论”的文章。在这两篇论文中，

他用概率论测度和数理统计的方法系统地讨论了通信的基本问题，得出了及格重要而带有普遍意义的结

论，并由此奠定了现代信息论的基础。

从 1948 年开始，信息论的出现引起了一些有名的数学家如柯尔洛夫、A.Feinstein、J.Wolfowitz 等

人的兴趣，他们将香农已得到的数学结论做了进一步的严格论证和推广，使这一理论具有更为坚实的数

学基础。

在研究香农信源编码定理的同时，另外一部分科学家从事寻找最佳编码(纠错码)的研究工作，并

形成一门独立的分支——纠错码理论。

1959 年香农发表了“保真度准则下的离散信源编码定理”，首先提出了率失真函数及率失真信源

编码定理。从此，发展成为信息率失真编码理论。

香农 1961年的论文“双路通信信道”开拓了网络信息论的研究。

现在，信息理论不仅在通信、计算机以及自动控制等电子学领域中得到直接的应用，而且还广泛地

渗透到生物学、医学、生理学、语言学、社会学、和经济学等领域。

1.3 简述信息与消息、信号的定义以及三者之间的关系