信息论
关注
分享
扫一扫
文章平均质量分 85
信通天使
ISAC 安全 信息论
展开
-
Pinsker’s inequality(信息散度和变分距离之间的不等式)
首先证明二进制的情况，考虑两个参数分别为。定义一个新的二进制随机变量。原创 2023-08-31 11:43:59 · 453 阅读 · 1 评论 -
信息散度(KL散度，相对熵)
信息散度又名KL散度(Kullback–Leibler divergence)，相对熵。用来衡量两个概率分布之间的差异性，信息散度的值大，则说明两个概率分布之间的差异大，相似性小；信息散度的值小，说明两个概率分布之间的差异性小，相似性高。原创 2023-08-30 15:53:03 · 295 阅读 · 1 评论 -
Jensen‘s inequality
是一个随机变量，具有有限的均值。的实值凸函数，具有有限的期望。原创 2023-08-30 10:28:15 · 122 阅读 · 1 评论 -
互信息与条件互信息
互信息原创 2023-07-26 11:00:34 · 843 阅读 · 1 评论 -
点对点通信的信道容量定理及其证明
点对点通信信道容量定理及其证明原创 2023-07-23 13:13:57 · 302 阅读 · 0 评论 -
典型列与联合典型列
典型列和联合典型列原创 2023-07-21 21:52:39 · 1036 阅读 · 1 评论 -
克拉美-罗不等式
克拉美-罗不等式原创 2023-07-12 21:39:05 · 527 阅读 · 0 评论