两种群决策变量高斯分布的KL散度和WD距离

两种群决策变量高斯分布的KL散度和WD距离

觉得有用的话,欢迎一起讨论相互学习~

以下来自文章：
Multisource Selective Transfer Framework in Multiobjective Optimization Problems, TEVC,2020

• 假设一个种群决策变量有n个维度，并且这n个维度之间没有关联，则可以用多元高斯分布去拟合这个分布，这是EDA即基于分布的演化算法中常用的策略，具体而言
  
• 对于两个问题s和t的决策变量而言，可以用Wasserstein distance计算其距离：
  
• 而对于两者的相似度则可以使用以下公式进行衡量：
  
• 当然也可以使用Kullback–Leibler divergence来衡量两个分布的距离–但是一定注意这里是将其作为两个一维高斯分布进行计算的，如果是高维高斯分布计算式具体参见：https://blog.csdn.net/HEGSNS/article/details/104857277
  

Wasserstein distance

可以参考的文献
https://www.jianshu.com/p/b03d5433229e
https://www.cnblogs.com/denny402/p/7054950.html
https://blog.csdn.net/zhangping1987/article/details/25368183
https://zhuanlan.zhihu.com/p/58506295?utm_source=ZHShareTargetIDMore

KL散度(Kullback–Leibler divergence)

https://www.cnblogs.com/huangshiyu13/p/6898212.html