一、信息 消息 信源 信号
- 信源是信息的来源。基于概率模型的度量方法,香农把信息定义为“不确定性的多少”。
- 消息是通信系统传送的对象,由信源产生 消息的主要形式:语音、文字、图像等
- 信息是消息中所携带的有效内容及其度量 不同消息可有相同内容
- 信号是消息的载体 用电压、电流描述的信号为电信号。通信系统中传输的是信号
注:消息“量” 不等于信息量
例如:
- “明天降雨量将有 1 mm” -- 信息量小
- “明天降雨量将达到1 m” -- 信息量大
- “明日太阳将从东方升起” -- 信息量零
提到信息量就不得不提我们常用的信源熵,即平均信息量。
首先我们要了解香农所提出的基于概率模型的度量方法,即把信息定义为“不确定性多少”。那么我们可以都得到 这样一个公式,a不同单位也不同,在a=2时,单位为bit;a=e, 单位为奈特(Nat);a=10,单位为哈特莱(Haitely) ;
所以可以得到第i个符号所蕴含的信息量为
信源熵则为
总信息量即为每个符号所蕴含的信息量相加,但在引入熵的概念后,也可表示为
二、数字通信系统
1.模型
2.主要性能指标
- 有效性:传输速率,包括码元速率和信息速率
- 可靠性:错误率,包括误码率和误比特率
(1)传输速率
码元速率(RB)
定义:单位时间内传输的码元数。
单位:码元/s,波特(baud)。也称波特率。
信息速率(Rb)
定义:单位时间内传输的信息量。
单位: bit/s,比特/秒。也称比特率。
注:多/M进制码元的信息速率一般假设各码元出现的概率相等,均为1/M,每个码元所含信息量为:I = log2 M 信息速率和码元速率的关系:Rb = RBlog2 M
消息速率
消息速率(RM)
定义:单位时间内传输的消息数目。
单位: 字/s
(2)错误率
误码率:错误接收码元数在传输码元总数中所占比例。
误比特率:错误接收比特数在传输总比特数中所占比例。
误字率:错误接收字数在传输总字数中所占比例。