Wasserstein Distance

最新推荐文章于 2023-10-18 19:40:54 发布
最新推荐文章于 2023-10-18 19:40:54 发布
阅读量1.1k 收藏 1
点赞数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_41558173/article/details/105748885
版权

特色

常见的有很多衡量概率分布差异的度量方式，比如total variation（TRPO推导里面有用到），还有经常被用到的KL散度。相比于这些度量方式，Wasserstein距离有如下一些好处。

  1. 能够很自然地度量离散分布和连续分布之间的距离；
  2. 不仅给出了距离的度量，而且给出如何把一个分布变换为另一分布的方案；
  3. 能够连续地把一个分布变换为另一个分布，在此同时，能够保持分布自身的几何形态特征；
纵雪者
关注
【YOLOv8改进- 损失函数】 NWD（Normalized Wasserstein Distance：归一化 Wasserstein 距离），助力微小目标检测。
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
08-30 1万+
【YOLOv8改进- 损失函数】 NWD（Normalized Wasserstein Distance：归一化 Wasserstein 距离），助力微小目标检测。
YOLOv10改进：LOSS系列篇 | Wasserstein Distance Loss，助力小目标涨点
最新发布
会AI的学姐
06-12 191
Wasserstein Distance Loss ，对小目标、遮挡物性能提升明显
[转载]--令人拍案叫绝的Wasserstein GAN
supercloud的专栏
02-07 6915
文章转载自： https://zhuanlan.zhihu.com/p/25071913 令人拍案叫绝的Wasserstein GAN 郑华滨 · 2 天前 在GAN的相关研究如火如荼甚至可以说是泛滥的今天，一篇新鲜出炉的arXiv论文《Wassertein GAN》却在Reddit的Machine Learning频道火了，连Goodfellow
一文详解Wassertein距离
Paper weekly
02-19 1834
©PaperWeekly 原创 ·作者｜孙裕道学校｜北京邮电大学博士生研究方向｜GAN图像生成、情绪对抗样本生成引言WGAN 的横空出世引出了一个更好度量两个概率分布差异的指标即 Was...
推土距离， Wasserstein distance
天天向上的专栏
05-26 1654
在鲁棒优化中见到一个名词：Wasserstein distance, 又称作 earth mover's distance，堆土距离。用来测量两个随机分布的距离。 之所以叫堆土距离，是因为它的物理含义是：将一个随机分布的直方图，变化成另一个随机分布的直方图，直方图变动的最小距离和。直方图中的每个小柱子可以视作一个土堆。...
YOLO改进：【损失函数篇】提高小目标检测精度——Normalized Wasserstein Distance (NWD)损失函数
qq_36070656的博客
10-18 9127
NWD损失函数助力小目标检测
OR青年 | 分布鲁棒优化研究报告
weixin_53463894的博客
02-07 7163
鲁棒优化、广义矩信息模糊集、𝜙散度模糊集合
Wasserstein距离（最优传输距离：
weixin_44862361的博客
06-28 2万+
wasserstein距离
Yolov8损失函数改进：Wasserstein Distance Loss，助力小目标涨点
04-25 6322
yolov8加入Wasserstein Distance Loss，助力小目标涨点
Yolov7/Yolov5损失函数改进：Wasserstein Distance Loss，助力小目标涨点
03-15 5405
Yolov7/Yolov5损失函数改进：Wasserstein Distance Loss，助力小目标涨点
Wasserstein distance in Optimal transport
Aiqz的博客
06-04 1236
Wasserstein Distance Optimal transport 1. Notations ​ Consider two probability measures µ and ν defined on measure spaces X and Y . In most applications X and Y are subsets of Rd\mathbb{R}^dRd and µ and ν have density functions which we denote by I0I_0I0
wasserstein 距离（原理+Pytorch 代码实现）
qq_41645987的博客
08-09 1万+
1.原理 1.1 原论文 最初应用在生成模型上 《Wasserstein GAN》： https://arxiv.org/abs/1701.07875 1.2 全面介绍 https://zhuanlan.zhihu.com/p/25071913 1.3 优点 Wasserstein距离相比KL散度、JS散度的优越性在于，即便两个分布没有重叠，Wasserstein距离仍然能够反映它们的远近。 2.代码 import torch import torch.nn as nn # Adapted from h
Wasserstein距离
weixin_36670529的博客
04-05 2106
Wasserstein距离 Wasserstein距离度量两个概率分布之间的距离，定义如下： Π(P1,P2)是P1和P2分布组合起来的所有可能的联合分布的集合。对于每一个可能的联合分布γ，可以从中采样(x,y)∼γ得到一个样本x和y，并计算出这对样本的距离||x−y||，所以可以计算该联合分布γ下，样本对距离的期望值E(x,y)∼γ[||x−y||]。在所有可能的联合分布中能够对这个期望值取到的下界infγ∼Π(P1,P2)E(x,y)∼γ[||x−y||]就是Wasserstein距离。 直观上可
wasserstein 距离
NockinOnHeavensDoor的博客
08-25 1万+
注明：直观理解而已，正儿八经的严谨证明看最下面的参考。 Earth Mover’s Distance 推土机距离的例子：有一堆土的分布是 PrPrP_r, 其随机变量是xxx,现在要求把这堆土挪动成为分布 PgPgP_g ，其随机变量是yyy(图上是PθPθP_\theta)，这样做的方法很多，那么做最小功的挪动该是什么？这是一个优化问题对应着的最优解是： 这里Π(Pr,Pg...
GAN及其改进算法总结
Avery123123的博客
10-22 1万+
GAN及其改进算法总结GAN及其各种改进算法GAN概述原理优点和不足 未来主要的方向被定在了GAN相关的一个子方向，在这里从源头总结一下GAN以及相关的一些改进算法，帮自己理清一下思路，和大家共同学习。
KL散度、JS散度与wasserstein距离
weixin_41093566的博客
06-10 707
KL散度 KL散度又称为相对熵，信息散度，信息增益。公式定义如下： KL散度可称为KL距离，但它并不满足距离的性质： （1）KL散度不是对称的； （2）KL散度不满足三角不等式。 JS散度 JS散度度量了两个概率分布的相似度，是基于KL散度的变体，解决了KL散度非对称的问题。一般地，JS散度是对称的，其取值是0到1之间。定义如下： KL散度和JS散度度量的时候有一个问题： 当两个分布P,Q离得很远，完全没有重叠的时候，KL散度值是没有意义的，而JS散度值是一个常数。这意味着反向传播时的梯度为0。 was
交叉熵、相对熵(KL散度)、JS散度和Wasserstein距离(推土机距离)
魏晋小子的博客
07-31 1041
1. 信息量 任何事件都会承载着一定的信息量，包括已经发生的事件和未发生的事件，只是他们承载的信息量会有所不同。 信息量是一个与事件发生概率相关的概念，事件发生的概率越小，其信息量越大。 定义： 假设 X 是一个离散型变量，其取值集合为 \chi ，概率分布函数为： p(x)=Pr(X=x), x\in\chi 则事件$X=x_0$ 的信息量为： I(x_0)=-log(p(x_0)) 2...
KL距离
u013236891的博客
05-27 1169
相对熵（relative entropy），又被称为Kullback-Leibler散度（Kullback-Leibler divergence）或信息散度（information divergence），是两个概率分布（probability distribution）间差异的非对称性度量。在在信息理论中，相对熵等价于两个概率分布的信息熵（Shannon entropy）的差值。 定义 ...
WGAN(wasserstein GAN)
热门推荐
林小川的博客
10-18 3万+
论文：https://arxiv.org/pdf/1701.07875.pdf 介绍： 在非监督学习中学习概率分布的意义在哪儿？论文使用极大似然估计的理论来解释，使用一个分布来近似真实分布，并通过最小化连个分布之间的KL散度来求解。论文解释了生成模型GAN与VAE的特点：不用直接求解原分布，而通过生成一个随机变量z的分布P(z)，并通过参数化方程（比如神经网络等）生成一个确定分布，并将不断的接...
wasserstein distance
06-28
Wasserstein距离，又称为Earth Mover's Distance(EMD)或者Mallows distance, 是一种在测量两个概率分布之间相似度的方法。它是在研究运动规划和图像处理等领域中广泛使用的。Wasserstein距离的核心思想是将两个概率...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值