KL散度的不对称性和概率分布(PDF)为零的情况处理

版权声明:如果对您有所启发,欢迎留言告知。若需转载请先联系作者获得许可,转载后请注明出处。 https://blog.csdn.net/yq_forever/article/details/81084519

KL散度用来衡量两个分布之间的差异, 网上已经有很多资料,不再赘述。
但是需要注意的是,KL散度虽然觉得很像是一种“距离”,但其实并不对,没有对称性。
详细的解释可以看这里
有人已经在matlab实现了KL散度,也处理的某些概率为零的情况(多在数据稀疏的情况下),做法是在所有概率上加了一个eps,即MATLAB默认的最小浮点数精度.

阅读更多
想对作者说点什么?

博主推荐

换一批

没有更多推荐了,返回首页