信息论与编码实验
实验一 绘制二进熵函数曲线(2个学时)
一、实验目的:
1. 掌握Excel的数据填充、公式运算和图表制作
2. 掌握Matlab绘图函数
3. 掌握、理解熵函数表达式及其性质
二、实验要求:
1. 提前预习实验,认真阅读实验原理以及相应的参考书。
2. 在实验报告中给出二进制熵函数曲线图
三、实验原理:
1. Excel的图表功能
2. 信源熵的概念及性质
X P(X x1 0 ) px2 1 , 0 p 11 p
H(X) p(xi)logp(xi)
plogp 1 p log 1 p
H(p)
信源熵的基本性质:
1.非负性
H(X) 0
2.对称性
p(xi)的顺序任意互换时,熵的值不变
3.最大离散熵定理
信源X中包含n个不同离散信息时,信源熵
a. H(X) log2n
当且仅当X中各个消息出现的概率全相等时,上式取等号。
b. H P 1 Q H(P) 1 H(Q)i
四、实验内容:
用Excel或Matlab软件制作二进熵函数曲线。
方法一 用Excel软件制作。
具体步骤如下:
1、启动Excel应用程序。
2、准备一组数据p。在Excel的一个工作表的A列(或其它列)输入一组p,