最大均值差异（Maximum Mean Discrepancy (MMD)）

已于 2025-04-08 10:29:34 修改
阅读量1.5k 收藏 7
点赞数 9
分类专栏： AI 文章标签： 均值算法 人工智能 算法 机器学习
于 2024-07-17 21:42:46 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/2201_76139143/article/details/140506070
版权

最大均值差异是用来干什么的？

最大均值差异是用来衡量两个分布之间的差异，广泛应用于域适应、生成对抗网络（GANs）等场景。——MMD评价两堆数据是否具有相似性。

定义

寻找一个"well-behaved"函数f：x——>R∈F，使得下面的目标最大：

这个目标为什么能反应出分布P分布和Q分布之间的差异呢？

函数f将分布P和Q中的所有样本映射成一个实数，遍历函数空间F中所有的函数，将这两堆实数的均值差最大值用于衡量分布的差异。

如果P=Q，则对于任意的f，都有，故最大差异R=0。

如果P和Q很相似，则可能存在很多f使得，因此这些f并不能客观反映出P和Q之间的差异，所以需要选择一个合适的f，使得两个分布最不相似的特性被刻画出来。

参考：深入理解最大均值差异（Maximum Mean Discrepancy, MMD）_最大均值差异 对齐-CSDN博客

浅谈Maximum Mean Discrepancy (MMD) - 望天下 - 博客园 (cnblogs.com)

 

【DL经典回顾】距离度量大汇总（23-最大均值差异(Maximum mean discrepancy)）
悦学共鸣，温柔以待，汇聚光芒，共同成长
04-10 2380
最大均值差异（Maximum Mean Discrepancy, MMD）是一种用于衡量两个概率分布差异的度量方法，在机器学习和统计学中尤其用于无参数和核方法中。
MMD ：maximum mean discrepancy
easylifer的专栏
05-27 4万+
MMD最先提出的时候用于双样本的检测（two-sample test）问题，用于判断两个分布p和q是否相同。它的基本假设是：如果对于所有以分布生成的样本空间为输入的函数f，如果两个分布生成的足够多的样本在f上的对应的像的均值都相等，那么那么可以认为这两个分布是同一个分布。现在一般用于度量两个分布之间的相似性。在[1]中从任意空间到RKHS上介绍了MMD的计算，这里根据这个顺序来介绍。
深度学习系列笔记之统计基础
Em_dark的博客
11-23 4000
研究方法入门进行调查 信任调查结果吗? 调查了谁? 调查了多少人? 调查是怎么进行的? 影响结果的是潜在变量 抽样总体的平均得分叫作总体参数μ 抽样数据和总体数据之间有个叫抽样误差 μ -x 怎样使样本数据的平均值x更接近总体参数μ 使用大量的样本 使用随机无偏差的样本能更加准确的测量总体参数μ 随机样本,每个被选中的机率是一样的 数据可视化 将一行行的数
深入理解最大均值差异（Maximum Mean Discrepancy, MMD）
m0_53623159的博客
07-01 9348
MMD的基本思想是通过再生核希尔伯特空间（Reproducing Kernel Hilbert Space, RKHS）中的均值嵌入（mean embeddings）来比较两个分布。MMDPQ;
最大均值差异MMD
X_m_w的博客
11-23 5381
最大均值差异是迁移学习中使用频率最高的度量。 Maximum mean discrepancy，它度量在再生希尔伯特空间中两个分布的距离，是一种核学习方法。简单地理解就是计算两堆数据的均值距离，但是实际比较难计算。就将两个分布映射到另一个空间计算距离。计算距离的方法是，计算分布上每一个点映射到另一空间的距离然后求和。 MMD的基本原理：假设一个满足P分布的数据集和一个满足Q分布的数据集并且存在一...
最大平均差异（MMD）
BetrayFree的博客
05-24 3030
给定两个样本集和​，它们分别来自两个分布 P 和 Q。MMD 的定义如下：这里，F 是函数集合，通常选择为再生核希尔伯特空间（RKHS）中的函数集。
【机器学习】最大均值差异MMD详解
zkq_1986的博客
01-08 1万+
引言 最大均值差异(maximum mean discrepancy, MMD)提出时候是用来测试两个样本，是否来自两个不同分布p和q，如果均值差异达到最大，就说明采样的样本来自完全不同的分布。 原理 MMD的基本原理如下所述：假设有一个满足P分布的数据集Xs=[xs1,...,xsn]和一个满足Q分布的数据集Xt=[xt1,...,xtm] 并且存在一个再生希尔伯特空间H(RKHS) 存在...
最大均值差异 Maximum Mean Discrepancy(MMD)
thormas1996的博客
03-07 7179
最大均值差异MMD用于衡量两个分部之间的相似性，迁移学习中经常用其来衡量源领域和目标领域的差异性。它的基本假设是：如果对于所有以分布生成的样本空间为输入的函数f，两个分布生成的样本足够多，且其对于函数f所有对应值的均值都相等，那么可以认为这两个分布是同一个分布。 如何用MMD来衡量两个分布的相似性？ 简单来说，就是找一个在样本空间的连续函数f，将两个分布的样本在f上的均值相减，要求函数f使这个差值...
最大均值差异（Maximum Mean Discrepancy, MMD）复现教程
weixin_43905212的博客
10-14 5913
本文章主要为了复现这个MMD教程中的代码。 pytorch环境安装 下面参考pytorch的官方教程。 这是安装pytorch的先决条件，如果需要用到GPU加速的话还需要下载CUDA驱动。（不过这个小项目就不用啦） 首先需要一个Anaconda做为package manager，为项目建立虚拟环境（因为不同项目对pytorch或者其他包的版本要求不同，不能兼容哦）。 之后要下载项目所需要的pytorch版本。如果项目中有说明具体的pytorch版本，最好下载对应的版本，会省很多问题。在这个MMD项目中没有
MMD_mean_mmd_discrepancy_weekarq_最大均值差异
09-11
利用matlab来实现Maximum Mean Discrepancy（最大均值差异）的计算。
【代码阅读】最大均值差异（Maximum Mean Discrepancy, MMD）损失函数代码解读（Pytroch版）
热门推荐
a529975125的博客
07-23 5万+
代码及参考资料来源 Source code: easezyc/deep-transfer-learning [Github] 参考资料：迁移学习简明手册 MMD介绍 MMD（最大均值差异）是迁移学习，尤其是Domain adaptation （域适应）中使用最广泛（目前）的一种损失函数，主要用来度量两个不同但相关的分布的距离。两个分布的距离定义为： MMD(X,Y)=||1n∑i=1n...
最大均值差异（MMD）的介绍
m0_46861439的博客
05-28 7041
核函数：给定一个非空集合XX，方程kX×X→RkX×X→R，如果存在一个实希尔伯特空间 (R\mathbb{R}R-Hilbert space，实希尔伯特空间因其上的内积的定义的不同而不同) 和一个映射ϕxX→HϕxX→H，使得∀xx′∈X∀xx′∈Xkxx′≔ϕxϕx′Hkxx′ϕxϕx′H​1.对称性：kxx′kx′x。
最大均值差异
鱼香土豆丝
04-06 1万+
引言最大均值差异(maximum mean discrepancy, MMD)提出时候是用来双样本检测，也就直观的判断两个数据的分布。
最大均值差异（Maximum Mean Discrepancy）
Abstinence277的博客
04-15 760
假设有两组观测到的样本集X={x1,x2,…yn}分别独立同分布采样自分布 p 和分布 q；F需要足够丰富：确保其中一定存在一个函数，使得当均值差异最大时，分布 p和q相等；（1） 需要一个映射函数f∈F：把样本集X和Y中的所有样本映射至对应的函数值；up的存在需要满足一定的条件，如果存在则是空间中的一个点。F需要一定限制：确保可以从有限的样本中获得有效的估计；如何通过 X和 Y 判断分布 p 和 q 是否相同？（2）分别计算它们的均值做差得到一个均值差异；F：在样本空间上的函数集合。
MMD~Maximum Mean Discrepancy 最大均值差异 pytorch&tensorflow代码
sinat_34173979的博客
07-27 1万+
基本思想 一个随机变量的矩反应了对应的分布信息，比如一阶中心矩是均值，二阶中心矩是方差等等。如果两个分布的均值和方差都相同的话，它们应该很相似，比如同样均值和方差的高斯分布和拉普拉斯分布。但是很明显，均值和方差并不能完全代表一个分布，这时候我们就需要更高阶的矩来描述一个分布。 MMD的基本思想就是，如果两个随机变量的任意阶都相同的话，那么两个分布就是一致的。而当两个分布不相同的话，那么使得两个...
Maximum Mean Discrepancy理解(MMD)
bbbeoy的专栏
08-23 8369
https://blog.csdn.net/tunhuzhuang1836/article/details/78058184 MMD理解 1.定义 MMD：maximum mean discrepancy。最大平均差异。参考网上定义为：基于两个分布的样本，通过寻找在样本空间上的连续函数f，求不同分布的样本在f上的函数值的均值，通过把两个均值作差可以得到两个分布对应于f的mean discrepancy。寻找一个f使得这个mean discrepancy有最大值，就得到了MMD。最后取MMD作为检验统计
机器学习中的数学——距离定义（二十八）：最大均值差异（Maximum Mean Discrepancy, MMD）
冯·诺依曼
01-09 2万+
最大均值差异（Maximum Mean Discrepancy，MMD）是迁移学习，尤其是 域适应（Domain Adaptation）中使用最广泛的一种损失函数，主要用来度量两个不同但相关的分布的距离。最大均值差异还可以用来测试两个样本，是否来自两个不同分布ppp和qqq，如果均值差异达到最大，就说明采样的样本来自完全不同的分布。 假设有一个满足ppp分布的数据集Xs=[xs1,…,xsn]和一个满足Q分布的数据集Xt=[xt1,…,xtm] 并且存在一个再生希尔伯特空间H(RKHS) 存在一个映射函数ϕ
什么是MMD Maximum Mean Discrepancy 最大均值差异？
最新发布
weixin_55703970的博客
12-09 1698
判断两个样本（族）是不是来自于同一分布
【小概念】最大均值差异（Maximum Mean Discrepancy）
Sun7_She的专栏
08-15 7506
将两个分布映射到另一个空间计算距离。 计算距离的方法是，计算分布上每一个点映射到另一空间的距离然后求和。 细节可参见： http://blog.csdn.net/he_min/article/details/69397975
maximum mean discrepancy
03-16
最大均值差异（Maximum Mean Discrepancy，MMD）是一种用于度量两个概率分布之间距离的方法。给定两个概率分布P和Q，MMD的计算方法是将它们各自的样本集合进行映射，然后比较在映射空间中的均值之间的差异。具体来说，MMD将每个样本映射到一个高维空间中，计算P和Q在该空间中均值的差异。如果MMD等于零，则表示P和Q是相同的分布，否则它们之间的距离越大。 MMD常用于机器学习领域，例如在无监督学习中，可以使用MMD来比较生成模型生成的样本和真实样本之间的距离，以评估生成模型的性能。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值