信息度量及信息有效性计算（精简版）——通信原理笔记（一）

最新推荐文章于 2024-07-04 16:54:26 发布

单片机学习之路

最新推荐文章于 2024-07-04 16:54:26 发布

阅读量3k

点赞数 6

分类专栏：通信原理文章标签：数字通信

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/backlight__/article/details/120913112

版权

通信原理专栏收录该内容

3 篇文章

订阅专栏

本文探讨了信息论中的关键概念，如信息量的计算、不同进制下信息的表达、平均信息量（熵）的定义，以及频带利用率在通信中的作用。涵盖了比特作为常用单位，M进制波形的信息量，以及与码元长度、波特率和比特率的关系。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

1、信息量： $I= \log_{a}\frac{1}{P(x)}$ ，P(x)为消息出现的概率。

信息量的单位与上式的底数a有关：

① $a=2,I=\log_{2}\frac{1}{P(x)}\left ( bit \right )$

② $a=e,I=\log_{e}\frac{1}{P(x)} \left ( nat \right )$

③ $a=10,\log_{10}\frac{1}{P(x)} \left ( Hartley \right )$

广泛使用的单位为比特即 $I=\log_{2}\frac{1}{P(x)} =-\log_{2}P(x) (bit)$ 。

2、M进制波形之一信息量（等概率）： $I=\log_{2}\frac{1}{P}=\log_{2}\frac{1}{1/M}=\log_{2}M \left ( b \right )$ ,P=1/M。

3、若M是2的整数次幂，如 $M=2^{k}$ （k=1,2,3,...)，则有 $I=\log_{2}2^{k}=k\left ( b \right )$ ，b为二进制脉冲数目。

4、平均信息量（信息源的熵）： $H\left ( x \right )=- \sum_{i=1}^{M}P\left (x _{i}^{} \right )\log_{2}P\left (x _{i}^{} \right )$ ，单位是b/符号。

5、一条m个符号构成的消息，总信息量为 $I=H\times m$ 。

6、频带利用率：

① $\eta =\frac{R_{B}^{}}{B}$ ，单位为（Baud/Hz），B为带宽， $R_{B}^{}$ 为码元传输速率，简称传码率、波特率（单位时间（每秒）传输码元的数目），单位为波特（Baud）。

② $\eta =\frac{R_{b}^{}}{B}$ ，单位为（b/（s·Hz）），B为带宽， $R_{b}^{}$ 为信息传输速率，简称传速率、比特率（单位时间内传输的平均信息量），单位为比特/秒（b/s)。

7、每个码元的长度： $T_{B}^{}=\frac{1}{R_{B}^{}}\left ( s \right )$ 。

8、 $R_{b}^{}$ 与 $R_{B}^{}$ 之间的关系： $R_{b}^{}=R_{B}^{}\log_{2}M$ ，单位：(b/s).

$R_{B}^{}=\frac{R_{b}^{}}{\log_{2}M}$ ，单位：(Baud)

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

打赏作者

单片机学习之路 你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20

扫码支付：¥1

获取中

扫码支付

您的余额不足，请更换扫码支付或充值

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。