python psi计算_KL散度,PSI,IV值之间的故事

原标题:KL散度,PSI,IV值之间的故事

KL散度,PSI,IV值之间的故事

01

KL散度

KL散度也称KL距离或相对熵。是一个从信息论、熵的角度量化距离的量,但跟一般的距离有不一样的地方。

距离在数学上的定义需满足以下条件:

非负性

同一性

对称性

直递性

KL散度只满足前面两条性质,不是真正意义上的距离,只能

用来评价两分布的差异。第一条的意思是说KL散度>=0,第二条说p与p的KL散度为0,即两个同一分布KL散度为0。但KL散度不满足对称性,即KL(p,q)不等于KL (q,p)。KL散度还用于衡量信息增益,衡量修改了从先验分布q到后验分布p的信息之后带来的信息增益,所以不具有对称性。如果要求对称的KL,例如p,q的对称KL,可以求KL(p,q)和KL(q,p)的平均值。

先看KL散度的公式:

假设有两个分布A和分布B,出现0,1的概率为:

A(0)=3/4,A(1)=1/4

B(0)=1/6,B(1)=5/6

我们就可以计算A和B之间的KL散度为:

=3/4*log((3/4)/(1/6))+1/4*log((1/4)/(5/6))

KL散度的python计算代

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值