KL散度 JS散度 熵 1.1 自信息self information 1.2 熵 entropy 2.KL散度 Kullback-Leibler divergence 2.1 定义 2.2 KL散度与熵、交叉熵之间的关系 2.3 python代码实现 2.3.1 定义两个概率分布并可视化 2.3.2 计算KL散度 2.3.2.1 自定义函数 2.3.2.2 scipy自带函数 3.JS散度 Jensen-Shannon divergence 3.1 定义<