信息论
只是有点小怂
本职工作是电子工程师,其他都是业余爱好
展开
-
python计算以2为底的对数(信息论的运用)(持续更新中)
from math import loglog(x,2) // log(x,base)原创 2019-09-10 08:40:15 · 10075 阅读 · 0 评论 -
信息论与电视屏幕显示(涉及数据通信原理的信息传输速率Rb)
2.12为了使电视图像获得良好的清晰度和规定的适当的对比度,需要用5×1055\times10^55×105个像素和101010个不同亮度的电平,求传递此图像所需的信息率(比特/秒)。并设每秒传输303030帧图像,所有像素是独立变化的,且所有亮度电平等概率出现。设某彩电系统,除了满足对于黑白电视系统的上述要求外,还必须有303030个不同亮度的色彩,试证明传输这彩色系统的信息率要比黑白系统...原创 2019-10-03 21:45:08 · 1548 阅读 · 0 评论 -
由条件熵与无条件熵的关系引出的不等式证明题(不会抄答案系列)
枯燥预警,证明很繁琐,实际上尽力记住公式内涵即可,重点掌握詹森不等式。选自《信息论(第四版)——基础理论与应用》傅祖芸编著P68,2.15,2.16P68,2.15,2.16P68,2.15,2.16,解答抄答案试证明离散平稳信源有H(X3/X1X2)⩽H(X2/X1)H(X_3/X_1X_2)\leqslant H(X_2/X_1)H(X3/X1X2)⩽H(X2/X1),并说明等...原创 2019-10-02 22:49:11 · 6841 阅读 · 5 评论 -
关于离散平稳信源的扩展信源的简单性质的练习题目(扩展信源划重点
如果两个符号的二次扩展信源不太明白,不妨看看这篇~设有一个信源,它产生 0,10,10,1 序列的消息。它在任意时间而且以前发生过什么符号,均按 P(0)=0.4,P(1)=0.6P(0)=0.4,P(1)=0.6P(0)=0.4,P(1)=0.6 的概率发出符号。(1) 试问这个信源是否平稳的?(2) 试计算 H(X2),H(X3/X1X2)H(X^2),H(X_3/X_1X_2)H...原创 2019-10-02 20:55:34 · 1766 阅读 · 0 评论 -
信息论与贝叶斯(二)
选自《信息论(第四版)——基础理论与应用》傅祖芸编著P121T3.4P121 T3.4P121T3.4,解答抄答案设有一批电阻,按阻值分70%70\%70%是2KΩ2K\Omega2KΩ,30%30\%30%是5KΩ5K\Omega5KΩ;按功耗分64%64\%64%是1/8W1/8W1/8W,其余是1/4W1/4W1/4W。现已知2KΩ2K\Omega2KΩ阻值的电阻中80%80\%80%是...原创 2019-09-25 19:32:09 · 847 阅读 · 0 评论 -
信息论和贝叶斯(或许会继续补充)
把已知信源$接到图2.17所示的信道上,求在该信道上传输的平均互信息量接到图2.17所示的信道上,求在该信道上传输的平均互信息量接到图2.17所示的信道上,求在该信道上传输的平均互信息量I(X;Y),疑义度,疑义度,疑义度H(X/Y),噪声熵,噪声熵,噪声熵H(Y/X),联合熵,联合熵,联合熵H(XY)$。...原创 2019-09-21 22:26:15 · 467 阅读 · 0 评论 -
信道的简单分类
根据输入输出随机信号的特点分类离散信道(数字信道)连续信道半离散/半连续信道波形信道(模拟信道)输入、输出随机序列都取离散值输入、输出随机序列都取连续值输入变量取离散值而输出变量取连续值,或反之信道的输入和输出都是一些时间上连续的随机信号...原创 2019-09-21 16:27:07 · 4183 阅读 · 0 评论