Wasserstein Distance

最新推荐文章于 2025-02-26 20:57:11 发布
最新推荐文章于 2025-02-26 20:57:11 发布
阅读量1.2k 收藏 1
点赞数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_41558173/article/details/105748885
版权

特色

常见的有很多衡量概率分布差异的度量方式，比如total variation（TRPO推导里面有用到），还有经常被用到的KL散度。相比于这些度量方式，Wasserstein距离有如下一些好处。

  1. 能够很自然地度量离散分布和连续分布之间的距离；
  2. 不仅给出了距离的度量，而且给出如何把一个分布变换为另一分布的方案；
  3. 能够连续地把一个分布变换为另一个分布，在此同时，能够保持分布自身的几何形态特征；
纵雪者
关注
【YOLOv8改进- 损失函数】 NWD（Normalized Wasserstein Distance：归一化 Wasserstein 距离），助力微小目标检测。
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
08-30 1万+
【YOLOv8改进- 损失函数】 NWD（Normalized Wasserstein Distance：归一化 Wasserstein 距离），助力微小目标检测。
YOLOv10改进：LOSS系列篇 | Wasserstein Distance Loss，助力小目标涨点
会AI的学姐
06-12 346
Wasserstein Distance Loss ，对小目标、遮挡物性能提升明显
一文详解Wassertein距离
Paper weekly
02-19 1972
©PaperWeekly 原创 ·作者｜孙裕道学校｜北京邮电大学博士生研究方向｜GAN图像生成、情绪对抗样本生成引言WGAN 的横空出世引出了一个更好度量两个概率分布差异的指标即 Was...
推土距离， Wasserstein distance
天天向上的专栏
05-26 1813
在鲁棒优化中见到一个名词：Wasserstein distance, 又称作 earth mover's distance，堆土距离。用来测量两个随机分布的距离。 之所以叫堆土距离，是因为它的物理含义是：将一个随机分布的直方图，变化成另一个随机分布的直方图，直方图变动的最小距离和。直方图中的每个小柱子可以视作一个土堆。...
Wasserstein 距离（Wasserstein Distance）
最新发布
m0_74052450的博客
02-26 868
Wasserstein 距离（Wasserstein Distance），也称为Earth Mover's Distance（EMD），是一种用于衡量两个概率分布之间差异的度量方法。它起源于最优传输理论，描述了将一个分布“搬移”成另一个分布所需的最小“工作量”。
YOLO改进：【损失函数篇】提高小目标检测精度——Normalized Wasserstein Distance (NWD)损失函数
qq_36070656的博客
10-18 1万+
NWD损失函数助力小目标检测
Wasserstain概率距离
zte10096334的博客
11-08 2055
从Wasserstein距离、对偶理论到WGAN
Wasserstein距离（最优传输距离：
weixin_44862361的博客
06-28 2万+
wasserstein距离
wasserstein 距离（原理+Pytorch 代码实现）
qq_41645987的博客
08-09 1万+
1.原理 1.1 原论文 最初应用在生成模型上 《Wasserstein GAN》： https://arxiv.org/abs/1701.07875 1.2 全面介绍 https://zhuanlan.zhihu.com/p/25071913 1.3 优点 Wasserstein距离相比KL散度、JS散度的优越性在于，即便两个分布没有重叠，Wasserstein距离仍然能够反映它们的远近。 2.代码 import torch import torch.nn as nn # Adapted from h
Yolov7/Yolov5损失函数改进：Wasserstein Distance Loss，助力小目标涨点
03-15 5761
Yolov7/Yolov5损失函数改进：Wasserstein Distance Loss，助力小目标涨点
Yolov8损失函数改进：Wasserstein Distance Loss，助力小目标涨点
04-25 7035
yolov8加入Wasserstein Distance Loss，助力小目标涨点
Wasserstein distance in Optimal transport
Aiqz的博客
06-04 1287
Wasserstein Distance Optimal transport 1. Notations ​ Consider two probability measures µ and ν defined on measure spaces X and Y . In most applications X and Y are subsets of Rd\mathbb{R}^dRd and µ and ν have density functions which we denote by I0I_0I0
推土机距离（Wasserstein distance）以及其他几种常用的分布差异度量方法（mark）
cnjs1994的博客
07-23 7595
几种分布差异度量方法及其python实现
Wasserstein距离
weixin_36670529的博客
04-05 2211
Wasserstein距离 Wasserstein距离度量两个概率分布之间的距离，定义如下： Π(P1,P2)是P1和P2分布组合起来的所有可能的联合分布的集合。对于每一个可能的联合分布γ，可以从中采样(x,y)∼γ得到一个样本x和y，并计算出这对样本的距离||x−y||，所以可以计算该联合分布γ下，样本对距离的期望值E(x,y)∼γ[||x−y||]。在所有可能的联合分布中能够对这个期望值取到的下界infγ∼Π(P1,P2)E(x,y)∼γ[||x−y||]就是Wasserstein距离。 直观上可
概率论——Wasserstein距离
热门推荐
CodeTutor
02-23 3万+
Wasserstein距离又叫Earth-Mover距离(EM距离)，用于衡量两个分布之间的距离，定义： W(P1,P2)=infγ∼Π(P1,P2)E(x,y)∼γ[||x−y||]W(P_1, P_2)=\inf_{\gamma \sim\Pi(P_1,P_2)} \mathbb E_{(x,y) \sim \gamma}[||x-y||] Π(P1,P2)\Pi(P_1,P_2)是P1P
wasserstein 距离
NockinOnHeavensDoor的博客
08-25 1万+
注明：直观理解而已，正儿八经的严谨证明看最下面的参考。 Earth Mover’s Distance 推土机距离的例子：有一堆土的分布是 PrPrP_r, 其随机变量是xxx,现在要求把这堆土挪动成为分布 PgPgP_g ，其随机变量是yyy(图上是PθPθP_\theta)，这样做的方法很多，那么做最小功的挪动该是什么？这是一个优化问题对应着的最优解是： 这里Π(Pr,Pg...
经典论文复现 | ICML 2017大热论文：Wasserstein GAN
Paper weekly
10-31 2117
过去几年发表于各大 AI 顶会论文提出的 400 多种算法中，公开算法代码的仅占 6%，其中三分之一的论文作者分享了测试数据，约 54% 的分享包含“伪代码”。这是今年 ...
GAN的Loss的比较研究（3）——Wasserstein Loss理解（1）
StreamRock的专栏
07-21 1万+
前两篇文章讨论了传统GAN的Loss，该Loss有些不足的地方，导致了GAN的训练十分困难，表现为：1、模式坍塌，即生成样本的多样性不足；2、不稳定，收敛不了。Martin Arjovsky在《Towards principled methods for training generative adversarial networks》、《Wasserstein GAN》文章中，对传统Loss造成...
KL散度、JS散度与wasserstein距离
weixin_41093566的博客
06-10 764
KL散度 KL散度又称为相对熵，信息散度，信息增益。公式定义如下： KL散度可称为KL距离，但它并不满足距离的性质： （1）KL散度不是对称的； （2）KL散度不满足三角不等式。 JS散度 JS散度度量了两个概率分布的相似度，是基于KL散度的变体，解决了KL散度非对称的问题。一般地，JS散度是对称的，其取值是0到1之间。定义如下： KL散度和JS散度度量的时候有一个问题： 当两个分布P,Q离得很远，完全没有重叠的时候，KL散度值是没有意义的，而JS散度值是一个常数。这意味着反向传播时的梯度为0。 was
wasserstein distance
06-28
### 回答1： Wasserstein距离，又称为Earth Mover's Distance(EMD)或者Mallows distance, 是一种在测量两个概率分布之间相似度的方法。它是在研究运动规划和图像处理等领域中广泛使用的。Wasserstein距离的核心思想是将两个概率分布看作是由若干个粒子组成的，并计算将一个分布中的粒子移动到另一个分布中所需的最小代价。 ### 回答2： 瓦瑟斯坦距离（Wasserstein distance），又称作移动距离（Earth Mover’s Distance，EMD），是一种用于度量两个概率分布之间距离的方法。它被广泛应用于信号处理、图像识别、机器学习以及自然语言处理等领域。其中，其在图像处理中的应用尤为广泛。 Wasserstein距离的基本思想是将一个概率分布变换到另一个概率分布所需要的最小代价。这个代价是由两个分布之间对应观测值之间的距离乘以权重（即两个分布在该观测值处的概率密度之差）得到的。换句话说，Wasserstein距离可以看作是在分布空间中的最小成本运输问题。在这个问题中，一个分布表示为物质，另一个分布表示为目标，然后使用最小的成本将物质从一个分布移动到目标分布。 Wasserstein距离的优点在于考虑到了分布之间的空间结构以及两个概率分布分布的形状，因此可以更好地捕捉分布之间的相似性。与传统的KL散度相比，Wasserstein距离更稳健，能够更好地处理极端情况。此外，Wasserstein距离对于多个分布之间也有良好的可拓展性，能够以更为合理的方式合并多个分布事件。 总之，Wasserstein距离是一种非常有用的概率分布距离度量方法，可应用于许多领域。虽然计算Wasserstein距离的代价比较高，但它具有较好的性质以及广泛的应用潜力，是一种值得探索的新型概率分布距离度量方法。 ### 回答3： Wasserstein距离又叫做Earth Mover's距离，是一种度量两个随意分布之间距离的方法。传统的欧式距离只适用于计算两个点之间的距离，它无法有效地衡量两个复杂的概率分布之间的距离。Wasserstein距离的优势在于它不仅考虑了分布之间的距离，还考虑了它们之间的运输成本。 Wasserstein距离的基本思想是通过在一个分布上的每个点与另一个分布上对应的点之间计算转移成本，来衡量它们之间的距离。一个分布可以被视为一堆点，每个点都代表一个样本。Wasserstein距离使用一个代价矩阵来表示从一个分布中的每个点向另一个分布中的对应点移动的代价。 举个例子，假设有两个概率分布A和B，它们分别由以下点表示： 分布A: (1, 0.3), (2, 0.2), (3, 0.5) 分布B: (1, 0.4), (2, 0.3), (3, 0.3) 代价矩阵可以表示为： 1 2 3 1 0 1 0.1 1 0.2 2 0.1 0 0.2 3 0.2 0.3 0 Wasserstein距离的计算可以使用线性规划求解器，目标是找到一个最小化总成本的转移方案。这个最小化总成本的转移方案称为Wasserstein距离。通俗地说，使用Wasserstein距离可以量化分布之间的差异，并能够处理由于各种原因产生的分布偏移，例如季节变化、不同人口分布，等等。 总之，Wasserstein距离是一种能够从表示分布的样本表示中推导出分布间的距离的方法。它广泛应用于图像生成、神经网络和统计机器学习等领域。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值