【DL经典回顾】距离度量大汇总（23-最大均值差异(Maximum mean discrepancy)）

最新推荐文章于 2025-03-06 11:34:59 发布
最新推荐文章于 2025-03-06 11:34:59 发布
阅读量2.3k 收藏 23
点赞数 12
分类专栏： 距离度量大汇总【公式&代码&解释】 文章标签： 算法 机器学习 python numpy 神经网络 均值算法 MMD
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42983182/article/details/137599107
版权
本文详细介绍了最大均值差异(MMD)在深度学习中的重要性，包括其定义、公式、函数特性、使用场景及局限性，以及与欧式距离、KL散度和海氏距离的比较。作者还提供了Python代码实现，展示了如何在实际问题中应用MMD进行两样本测试和模型评估。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

【DL经典回顾】距离度量大汇总（23-最大均值差异(Maximum mean discrepancy)）

文章目录


在深入探讨深度学习（DL）时，我们常常会发现，有些基础概念虽小，却影响深远。距离度量就是这样一个看似简单，实则至关重要的概念。它是机器学习和深度学习中不可或缺的一环，影响着模型的性能和应用的广泛性。在本专栏中，我们将进行一次深度的探索，回顾距离度量的各种方法，并理解它们的重要性和应用。

一、最大均值差异(Maximum mean discrepancy)

1. 定义和公式

最大均值差异（Maximum Mean Discrepancy, MMD）是一种用于衡量两个概率分布 P P

了解本专栏 订阅专栏 解锁全文 超级会员免费看
【DL经典回顾】距离度量大汇总（0-导言及距离度量方法列表）
悦学共鸣，温柔以待，汇聚光芒，共同成长
04-02 1199
在本专栏中，我们将进行一次深度的探索，回顾距离度量的各种方法，并理解它们的重要性和应用。
迁移学习：利用已有模型解决新问题
AI天才研究院
04-24 688
1. 背景介绍 1.1 人工智能与机器学习 人工智能（Artificial Intelligence，AI）旨在让机器展现出类似人类的智能，而机器学习（Machine Learning，ML）则是实现 AI 的重要途径之一。机器学习通过让计算机从数据中学习规律，从而具备预测、分类、识别等能力。近年
什么是MMD Maximum Mean Discrepancy 最大均值差异？
weixin_55703970的博客
12-09 1668
判断两个样本（族）是不是来自于同一分布
MMD ：maximum mean discrepancy
热门推荐
easylifer的专栏
05-27 4万+
MMD最先提出的时候用于双样本的检测（two-sample test）问题，用于判断两个分布p和q是否相同。它的基本假设是：如果对于所有以分布生成的样本空间为输入的函数f，如果两个分布生成的足够多的样本在f上的对应的像的均值都相等，那么那么可以认为这两个分布是同一个分布。现在一般用于度量两个分布之间的相似性。在[1]中从任意空间到RKHS上介绍了MMD的计算，这里根据这个顺序来介绍。
MMD和领域自适应学习
最新发布
sjtu_wyy的博客
03-06 1222
MMD 最大均值差异是一种基于核函数的分布差异度量方法，通过计算两个分布在 RKHS 中的均值嵌入距离来衡量它们的差异。它在领域自适应、生成模型评估和两样本检验等任务中具有广泛的应用。 同时介绍MMD在领域迁移的应用，并提供pytorch代码demo
最大均值差异（Maximum Mean Discrepancy (MMD)）
2201_76139143的博客
07-17 1436
最大均值差异是用来衡量两个分布之间的差异，广泛应用于域适应、生成对抗网络（GANs）等场景。——MMD评价两堆数据是否具有相似性。寻找一个"well-behaved"函数f：x——>R∈F，使得下面的目标最大：函数f将分布P和Q中的所有样本映射成一个实数，遍历函数空间F中所有的函数，将这两堆实数的均值差最大值用于衡量分布的差异。如果P=Q，则对于任意的f，都有，故最大差异R=0。如果P和Q很相似，则可能存在很多f使得，因此这些f并不能客观反映出P和Q之间的差异，所以需要选择一个合适的f，使得两个分布最不相似
深入理解最大均值差异（Maximum Mean Discrepancy, MMD）
m0_53623159的博客
07-01 9024
MMD的基本思想是通过再生核希尔伯特空间（Reproducing Kernel Hilbert Space, RKHS）中的均值嵌入（mean embeddings）来比较两个分布。MMDPQ;
最大平均差异（MMD）
BetrayFree的博客
05-24 2969
给定两个样本集和​，它们分别来自两个分布 P 和 Q。MMD 的定义如下：这里，F 是函数集合，通常选择为再生核希尔伯特空间（RKHS）中的函数集。
Maximum Mean Discrepancy理解
tunhuzhuang1836的博客
09-21 2万+
MMD
揭秘MMAdapt：如何利用AI跨领域战胜新兴健康谣言？
qq_52053775的博客
06-22 340
在紧急健康事件或话题的初期阶段，如猴痘（mpox）在2022年的爆发，常常因为缺乏及时的资源，如最新的领域知识和标注数据，使得健康相关的误信息的检测变得尤其困难。领域特定的误信息检测局限性：许多现有方法假设训练和测试数据来自相同的数据分布，专注于特定领域的误信息检测。这种假设限制了模型的通用性，因为不同健康领域在词汇使用、话题变化和写作风格等方面各有特点。领域差异性问题：即使是最近开发的一些领域适应解决方案，也主要集中在二元分类问题上，忽视了只包含部分误导内容的误信息的重要类别。
【论文阅读】Domain Adaptation for Deep Entity Resolution
He_r_o的博客
05-17 1377
实体解析中的领域自适应 阅读论文Domain Adaptation for Deep Entity Resolution
MMD_mean_mmd_discrepancy_weekarq_最大均值差异
09-11
利用matlab来实现Maximum Mean Discrepancy（最大均值差异）的计算。
Maximum Mean Discrepancy理解(MMD)
bbbeoy的专栏
08-23 8340
https://blog.csdn.net/tunhuzhuang1836/article/details/78058184 MMD理解 1.定义 MMD：maximum mean discrepancy。最大平均差异。参考网上定义为：基于两个分布的样本，通过寻找在样本空间上的连续函数f，求不同分布的样本在f上的函数值的均值，通过把两个均值作差可以得到两个分布对应于f的mean discrepancy。寻找一个f使得这个mean discrepancy有最大值，就得到了MMD。最后取MMD作为检验统计
最大均值差异MMD
X_m_w的博客
11-23 5375
最大均值差异是迁移学习中使用频率最高的度量。 Maximum mean discrepancy，它度量在再生希尔伯特空间中两个分布的距离，是一种核学习方法。简单地理解就是计算两堆数据的均值距离，但是实际比较难计算。就将两个分布映射到另一个空间计算距离。计算距离的方法是，计算分布上每一个点映射到另一空间的距离然后求和。 MMD的基本原理：假设一个满足P分布的数据集和一个满足Q分布的数据集并且存在一...
MMD~Maximum Mean Discrepancy 最大均值差异 pytorch&tensorflow代码
sinat_34173979的博客
07-27 1万+
基本思想 一个随机变量的矩反应了对应的分布信息，比如一阶中心矩是均值，二阶中心矩是方差等等。如果两个分布的均值和方差都相同的话，它们应该很相似，比如同样均值和方差的高斯分布和拉普拉斯分布。但是很明显，均值和方差并不能完全代表一个分布，这时候我们就需要更高阶的矩来描述一个分布。 MMD的基本思想就是，如果两个随机变量的任意阶都相同的话，那么两个分布就是一致的。而当两个分布不相同的话，那么使得两个...
最大均值差异 Maximum Mean Discrepancy(MMD)
thormas1996的博客
03-07 7172
最大均值差异MMD用于衡量两个分部之间的相似性，迁移学习中经常用其来衡量源领域和目标领域的差异性。它的基本假设是：如果对于所有以分布生成的样本空间为输入的函数f，两个分布生成的样本足够多，且其对于函数f所有对应值的均值都相等，那么可以认为这两个分布是同一个分布。 如何用MMD来衡量两个分布的相似性？ 简单来说，就是找一个在样本空间的连续函数f，将两个分布的样本在f上的均值相减，要求函数f使这个差值...
最大均值差异
鱼香土豆丝
04-06 1万+
引言最大均值差异(maximum mean discrepancy, MMD)提出时候是用来双样本检测，也就直观的判断两个数据的分布。
机器学习中的数学——距离定义（二十八）：最大均值差异（Maximum Mean Discrepancy, MMD）
冯·诺依曼
01-09 2万+
最大均值差异（Maximum Mean Discrepancy，MMD）是迁移学习，尤其是 域适应（Domain Adaptation）中使用最广泛的一种损失函数，主要用来度量两个不同但相关的分布的距离。最大均值差异还可以用来测试两个样本，是否来自两个不同分布ppp和qqq，如果均值差异达到最大，就说明采样的样本来自完全不同的分布。 假设有一个满足ppp分布的数据集Xs=[xs1,…,xsn]和一个满足Q分布的数据集Xt=[xt1,…,xtm] 并且存在一个再生希尔伯特空间H(RKHS) 存在一个映射函数ϕ
【机器学习】最大均值差异MMD详解
zkq_1986的博客
01-08 1万+
引言 最大均值差异(maximum mean discrepancy, MMD)提出时候是用来测试两个样本，是否来自两个不同分布p和q，如果均值差异达到最大，就说明采样的样本来自完全不同的分布。 原理 MMD的基本原理如下所述：假设有一个满足P分布的数据集Xs=[xs1,...,xsn]和一个满足Q分布的数据集Xt=[xt1,...,xtm] 并且存在一个再生希尔伯特空间H(RKHS) 存在...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

夺命猪头

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值