NMI(标准化互信息) python实现

最新推荐文章于 2025-05-14 09:39:24 发布
最新推荐文章于 2025-05-14 09:39:24 发布
阅读量1.7w 收藏 45
点赞数 16
CC 4.0 BY-SA版权
分类专栏： 数据挖掘-机器学习 文章标签： python NMI 社区发现
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/pp8818/article/details/62043870

介绍

NMI是社区发现(community detection)在有标准ground-truth的情况下的重要衡量指标，基本可以比较客观地评价出一个社区划分与标准划分之间相比的准确度。NMI的值域是0到1，越高代表划分得越准。具体的原理和例子可以参考这篇博客：http://www.cnblogs.com/ziqiao/archive/2011/12/13/2286273.html
因为之前自己要用到，但是发现在网上现成的计算NMI的代码基本都是matlab的和java的，没找到用python写的。所以今天闲来无事，把上面博客中的matlab实现方法用python实现了一下。将来就可以直接用了。

代码

其实代码很简单，就是参考博客中直接从matlab翻译成python，不过有一些小坑而已。
python代码
直接给代码，跟博客中的没什么区别啦，这里解释一下代码中的eps是一个很小的正数，为了防止log函数中参数为0而已。
为了方便大家使用python的话可以直接用，最后附有下载地址。

结果

使用代码中的用例，可以看到，如果输出的结果是0.36456，说明结果就是正确的。

下载地址

CDNS下载
没积分的也可以github下载：
github下载链接
记得给star喔~

python计算互信息_聚类评估指标系列(一)：标准化互信息NMI计算步骤及其Python实现...
weixin_34072296的博客
12-23 1467
标准化互信息NMI (Normalized Mutual Information)常用在聚类评估中。标准化互信息NMI计算步骤Python 实现代码：''' 利用Python实现NMI计算'''import mathimport numpy as npfrom sklearn import metricsdef NMI(A,B):# 样本点数total = len(A)A_ids = set(A...
python计算互信息_标准化互信息NMI计算步骤及其Python实现
weixin_39684960的博客
02-04 1861
Excellence is a continuous process and not an accident.卓越是一个持续的过程而不是一个偶然事件。标准化互信息NMI计算步骤及其Python实现标准化互信息NMI具体定义可以参考另一篇博客：https://smj2284672469.github.io/2017/10/27/community-detection-measures/#more本文...
NMI 标准化互信息 python实现
03-14
对于NMI计算的python实现
使用MATLAB实现归一化互信息评估网络数据聚类效果
weixin_42497762的博客
05-14 730
聚类算法的种类繁多，包括层次聚类、划分聚类、密度聚类和基于模型的聚类等。每种算法都有其独特的优势和应用场景。互信息（Mutual Information, MI）是信息论中一个重要的概念，用于衡量两个随机变量之间的相互依赖程度。如果用X和Y表示两个随机变量，则它们之间的互信息定义为：[ MI(X;其中，( p(x, y) )是X和Y的联合概率分布函数，( p(x) )和( p(y) )分别是X和Y的边缘概率分布函数。互信息的计算涉及到对概率分布的估计和对数函数的计算。
社团划分评估-标准化互信息NMI的Python实现
qq_43173865的博客
02-10 877
标准化互信息nmi是评估社团划分质量的一项重要指标
聚类的评价指标NMI标准化互信息+python实现+sklearn调库
weixin_42764932的博客
03-05 1万+
聚类的评价指标NMI标准化互信息+python实现+sklearn调库概念引例公式信息熵相对熵（relative entropy）互信息*归一化互信息(NMI)代码pythonsklearn 概念 标准化互信息（normalized Mutual Information, NMI）用于度量聚类结果的相似程度，是community detection的重要指标之一，其取值范围在[0 1]之间，值越大表示聚类结果越相近，且对于[1, 1, 1, 2] 和 [2, 2, 2, 1]的结果判断为相同 引例 对于6个
标准互信息NMI的Python代码
12-22
可用于评估社区划分效果的标准互信息NMI的Python代码。输入为算法的社区划分结果与真实划分结果，均为二维列表。
互信息python代码_转：标准化互信息NMI计算步骤及其Python实现
weixin_30920907的博客
12-23 552
标准化互信息NMI计算步骤Python 实现代码：‘‘‘ 利用Python实现NMI计算‘‘‘import mathimport numpy as npfrom sklearn import metricsdef NMI(A,B):# 样本点数total = len(A)A_ids = set(A)B_ids = set(B)# 互信息计算MI = 0eps = 1.4e-45for idA i...
标准化互信息的python实现（sklearn）
MaloFleur
05-27 2万+
标准化互信息（normalized Mutual Information, NMI）用于度量聚类结果的相似程度，是community detection的重要指标之一，其取值范围在[0 1]之间，值越大表示聚类结果越相近，且对于[1, 1, 1, 2] 和 [2, 2, 2, 1]的结果判断为相同 其论文可参见Effect of size heterogeneity on community id...
互信息 c语言,NMI(标准化互信息)
weixin_32541907的博客
05-24 594
package clusters;import *;import java.util.ArrayList;import java.util.HashMap;import java.util.List;import java.util.Map;public class NormalizedMutualInformation {static String path = "/home/fhqplzj/I...
NMI标准互信息 复杂网络评价
03-04
NMI标准互信息，用于评价复杂网络质量，适用于重叠社区的评价，java实现
NMI (normalized mutual information)
Dango's happy life
10-17 5114
NMI (normalized mutual information): 在information theory的理论框架下比较两个可重叠划分(overlapping clusters)的方法。 有两个不同划分C'={X1, X2, ...X|C'|}, C''={Y1, Y2, ..., Y|C''|} H(X) 表示X的熵(entrophy)，H(X|Y)表示条件熵 (condi
chatgpt赋能Python-python_nmi
lvsetongdao123的博客
05-24 301
NMI是一种衡量两个聚类结果之间的相似性的算法评估指标。其定义基于互信息（Mutual Information），该概念最初由Shannon于1948年提出。互信息反映了两个随机变量之间的相关性，可以用于计算任意两个数据集之间的相似度。但是，互信息的计算结果是非归一化的，这不利于比较不同数据集之间的相似性。为了解决这个问题，提出了归一化互信息。归一化互信息是归一化的互信息，其值介于0和1之间。因此，归一化互信息可以用于比较不同数据集之间的相似性。本文由chatgpt生成，文章没有在chatgpt。
Normalized Mutual Information归一化互信息
热门推荐
知之可否
03-17 2万+
Normalized Mutual Information(NMI)常用在聚类中，度量2个聚类结果的相近程度。 其中I(A,B)是A,B两向量的mutual information, H(A)是A向量的信息熵。 I(A,B)=H(A)-H(A|B)=H(B)-H(B|A),这也好理解，直觉上，如果已知B的情况，A的条件熵H(B|A)相对于H(A)变小了，即不确定程度变小，那么B能提供对
聚类分析中的外部指标——Mutual Information (MI) / Normalized Mutual Information (NMI) 深度详解
DuHz的博客
03-20 880
在有真实标签的聚类分析（Clustering）中，我们可以把“聚类结果”与“真实类别标签”分别视作两个离散随机变量，通过信息论（Information Theory）的 **互信息（Mutual Information, MI）** 来衡量它们之间的“信息重叠”与“依赖关系”程度，并进一步用 **标准化互信息（Normalized Mutual Information, NMI）** 来解决互信息无固定上界、不便比较的问题。下面将从更深度的公式与推导层面，对 MI 和 NMI 进行详细阐释。
Mutual information and Normalized Mutual information 互信息和标准化互信息
BradleyBill的专栏
07-07 1640
实验室最近用到nmi( Normalized Mutual information )评价聚类效果,先说一下问题：例如stanford中介绍的一个例子：   比如标准结果是图中的叉叉点点圈圈，我的聚类结果是图中标注的三个圈。 或者我的结果: A = [1 1 1 1 1 1   2 2 2 2 2 2    3 3 3 3 3]; 标准的结果   : B = [1 2 1
标准化互信息NMI计算步骤及其Python实现
梦家の博客
10-28 2万+
Excellence is a continuous process and not an accident. 卓越是一个持续的过程而不是一个偶然事件。 标准化互信息NMI计算步骤及其Python实现 标准化互信息NMI具体定义可以参考另一篇博客： https://smj2284672469.github.io/2017/10/27/community-detection-mea
多模态学习中四种常用的跨模态特征融合方法定义与PyTorch实现
m0_47623548的博客
06-30 5065
本文共介绍四种方法，分别是SumFusion、ConcatFusion、FiLM以及GatedFusion。
互信息（Mutual Information）
xuyupeng_sjtu的博客
07-26 3744
互信息
nii图像归一化互信息的python实现
最新发布
06-21
### NII图像归一化互信息的Python实现 归一化互信息（Normalized Mutual Information, NMI）是一种常用的医学影像配准指标，用于衡量两幅图像之间的相似性。以下是一个基于Python实现NII图像归一化互信息计算的方法[^1]。 #### 方法概述 归一化互信息可以通过联合概率分布和边缘概率分布计算得出。具体步骤包括： 1. 加载NII图像数据。 2. 计算两幅图像的联合直方图。 3. 根据联合直方图计算联合熵和边缘熵。 4. 使用熵值计算归一化互信息。 以下是实现代码示例： ```python import nibabel as nib import numpy as np from scipy.stats import entropy def load_nii_image(file_path): """加载NII图像并返回其数据""" img = nib.load(file_path) return img.get_fdata() def compute_joint_histogram(img1, img2, bins=64): """计算两幅图像的联合直方图""" hist, _, _ = np.histogram2d( img1.ravel(), img2.ravel(), bins=bins, range=[[np.min(img1), np.max(img1)], [np.min(img2), np.max(img2)]] ) return hist / hist.sum() # 归一化 def compute_entropy(prob_dist): """计算熵值""" return -np.sum(prob_dist * np.log2(prob_dist + 1e-10)) # 避免除零错误 def compute_normalized_mutual_information(img1, img2, bins=64): """计算归一化互信息""" joint_hist = compute_joint_histogram(img1, img2, bins) joint_entropy = compute_entropy(joint_hist.flatten()) marginal_hist_img1 = joint_hist.sum(axis=1) marginal_hist_img2 = joint_hist.sum(axis=0) entropy_img1 = compute_entropy(marginal_hist_img1) entropy_img2 = compute_entropy(marginal_hist_img2) mutual_information = (entropy_img1 + entropy_img2) - joint_entropy normalized_mutual_information = (2 * mutual_information) / (entropy_img1 + entropy_img2) return normalized_mutual_information # 示例：加载两幅NII图像并计算归一化互信息 if __name__ == "__main__": img1_path = "image1.nii" img2_path = "image2.nii" img1_data = load_nii_image(img1_path) img2_data = load_nii_image(img2_path) nmi = compute_normalized_mutual_information(img1_data, img2_data) print(f"归一化互信息: {nmi}") ``` #### 注意事项 - 在实际应用中，可能需要对图像进行预处理（如去噪、标准化等），以提高计算结果的准确性[^2]。 - 联合直方图的分箱数（`bins`）会影响计算结果，建议根据图像特性选择合适的值。 - 对于大规模图像数据，可以考虑使用GPU加速或优化算法以提高计算效率。
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值