聚类算法评价指标——Normalized Mutual Information, NMI指数

最新推荐文章于 2023-05-24 02:00:15 发布
最新推荐文章于 2023-05-24 02:00:15 发布
阅读量2.1k 收藏 3
点赞数 1
分类专栏： # 聚类 文章标签： 聚类 算法 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_46713695/article/details/126390440
版权

目录

NMI 是一种常见的聚类有效性外部评价指标，从信息论的角度评估了两个聚类结果的相似性 . 设实验结果为 X，真实结果为 Y，则其计算式如下：
在这里插入图片描述
其中， I ( X ， Y ) I (X，Y) I(X，Y)表示 X X X 和 Y Y Y 之间的互信息， H ( X ) H (X) H(X) 和 H ( Y ) H (Y) H(Y) 表示 X X X 和 Y Y Y 的熵 . NMI 的取值范围为[ 0，1]，值越大表明和真实结果的共享信息越多，即聚类效果越好 。

参考资料
[1] 基于信息熵加权的聚类集成算法 2021.3

赵孝正
关注
  • 1
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
聚类分析 | 聚类有效性评价指标外部NMI（MATLAB）
天天酷科研的博客
04-08 687
聚类分析 | 聚类有效性评价指标外部NMI（MATLAB）
Normalized Mutual information
weixin_43984457的博客
04-06 5075
在写论文做数据测试时有用到一个nmi(normalized mutual information)评价聚类的一种方法，不是很清楚，然后上网找了一下资料。 首先在理解nmi前，先说说mutual information这个东西。 我们先举个例子： 比如说，标准结果是大圆里面的叉叉圈圈点点，上图呢是我们算法聚类出来的结果，那么如何来看我们算法的聚类效果呢，如何计算呢？ 我们把上图中的图形用字母来表示...
NMI(Normalized Mutual Information)
看流云落成雨滴
03-30 2万+
NMI(Normalized Mutual Information) NMI(Normalized Mutual Information)，归一化互信息。常用在聚类中，度量两个聚类结果的相近程度（通常我们都是将聚类结果和真实标签进行比较相似程度）。他的值域是[0,1][0, 1][0,1]，值越高表示两个聚类结果越相似。归一化是指将两个聚类结果的相似性值 定量到0~1之间。 NMI和另一个聚类指标ACC不同的是，NMI的值不会受到族类标签排列的影响。(This metric is independent o
归一化互信息(NMI)评价指标
热门推荐
hang916的博客
03-24 4万+
信息熵 对信息进行量化度量。可以理解为某种特定信息的出现概率。 计算公式 相对熵 【百度百科】相对熵（relative entropy），又被称为Kullback-Leibler散度（Kullback-Leibler divergence，KL散度）或信息散度（information divergence），是两个概率分布（probability distribution）间差异的非对...
聚类的评价指标NMI标准化互信息+python实现+sklearn调库
weixin_42764932的博客
03-05 1万+
聚类的评价指标NMI标准化互信息+python实现+sklearn调库概念引例公式信息熵相对熵（relative entropy）互信息*归一化互信息(NMI)代码pythonsklearn 概念 标准化互信息（normalized Mutual Information, NMI）用于度量聚类结果的相似程度，是community detection的重要指标之一，其取值范围在[0 1]之间，值越大表示聚类结果越相近，且对于[1, 1, 1, 2] 和 [2, 2, 2, 1]的结果判断为相同 引例 对于6个
Normalized Mutual Information归一化互信息
知之可否
03-17 2万+
Normalized Mutual Information(NMI)常用在聚类中，度量2个聚类结果的相近程度。 其中I(A,B)是A,B两向量的mutual information, H(A)是A向量的信息熵。 I(A,B)=H(A)-H(A|B)=H(B)-H(B|A),这也好理解，直觉上，如果已知B的情况，A的条件熵H(B|A)相对于H(A)变小了，即不确定程度变小，那么B能提供对
[Kmeans 评价指标]标准化互信息NMI计算步骤及其Python实现
Britesun的博客
01-17 5395
转载链接 标准化互信息NMI计算步骤及其Python实现 Excellence is a continuous process and not an accident. 卓越是一个持续的过程而不是一个偶然事件. 标准化互信息NMI计算步骤及其Python实现 本文介绍其计算步骤和代码实现 假设对于17个样本点(v1,v2,...,v17)(v...
k-means聚类算法实现matlab.zip
04-28
同时，为了评估算法的性能，还计算了聚类精度和NMI（Normalized Mutual Information，归一化互信息）指标。 聚类精度衡量的是实际类别与预测类别的一致性，而NMI则是一种衡量两个分类系统之间信息共享程度的指标，...
基于Python实现并测试K-means聚类算法【100011717】
04-07
实验中采用NMI（Normalized Mutual Information）和目标函数J来评估聚类效果： - **NMI**：一种比较聚类结果和已知分类的无量纲度量，值越大表示聚类效果越好，取值范围在0到1之间，1表示完全匹配。 - **目标函数J*...
graph-clustering-algorithms:图聚类算法的准确率和运行时间比较
07-07
可以通过实验对比不同算法在特定数据集上的效果，例如，使用常用的图聚类评价指标如NMI（Normalized Mutual Information）和F-score。 总结来说，图聚类算法在Java中有着丰富的实现途径，每种算法都有其优缺点。...
聚类外部评价指标（NMI, AC, ARI）
12-04
代码包含三个聚类分析常用的外部评价指标：调整兰德指数（ARI），标准化互信息（NMI），准确度（AC）。
NMI评价方法
01-09
NMI 评价方法（matlab），用于评价分类和聚类的FUNCTION，输入是正确的类标和试验后的类标
NMI标准互信息 复杂网络评价
03-04
NMI标准互信息，用于评价复杂网络质量，适用于重叠社区的评价，java实现
聚类评价指标
05-02
很好的资源，研究聚类的个数是很有用的东西啊 呵呵
网络重叠社区发现的谱聚类集成算法_黄发良1
08-03
SCEA相比其他代表性算法如Clique Percolation Method (CPM)，Link，Community Overlap Propagation Algorithm (COPRA)以及Sampled Spectral Distance Embedding (SSDE)等，能够挖掘出具有更高规范化互信息...
第七周实验-聚类2
08-08
- FMI（Fowlkes-Mallows Index）和NMI（Normalized Mutual Information）是评估聚类效果的常用指标，它们衡量的是聚类结果与已知分类的一致性。 - 当这些指标接近1时，表示聚类效果较好；接近0则表示较差。 在...
python计算互信息_聚类评估指标系列(一)：标准化互信息NMI计算步骤及其Python实现...
weixin_34072296的博客
12-23 1313
标准化互信息NMI (Normalized Mutual Information)常用在聚类评估中。标准化互信息NMI计算步骤Python 实现代码：''' 利用Python实现NMI计算'''import mathimport numpy as npfrom sklearn import metricsdef NMI(A,B):# 样本点数total = len(A)A_ids = set(A...
NMI计算
Micheal 超 的博客
04-23 4426
介绍： NMI(Normalized Mutual Information)， 标准化互信息。常用于聚类，度量 聚类结果 与 数据集真实情况 的相似度。 NMI的值∈[0, 1]。值越大，说明聚类结果与数据集真实情况的相似度越大，聚类结果越好。如果算法结果很差则NMI值接近0。 举例：假设对于17个样本点(v1,v2,...,v17)(v1,v2,...,v17)(v1,v2,...,v17)...
chatgpt赋能Python-python_nmi
lvsetongdao123的博客
05-24 224
NMI是一种衡量两个聚类结果之间的相似性的算法评估指标。其定义基于互信息（Mutual Information），该概念最初由Shannon于1948年提出。互信息反映了两个随机变量之间的相关性，可以用于计算任意两个数据集之间的相似度。但是，互信息的计算结果是非归一化的，这不利于比较不同数据集之间的相似性。为了解决这个问题，提出了归一化互信息。归一化互信息是归一化的互信息，其值介于0和1之间。因此，归一化互信息可以用于比较不同数据集之间的相似性。本文由chatgpt生成，文章没有在chatgpt。
使用python代码实现：实现K-means聚类算法 采用normalized mutual information（NMI）作为度量，对自己算法的聚类运行结果进行评估
最新发布
07-12
好的，下面是使用Python实现K-means聚类算法，并使用NMI对聚类结果进行评估的示例代码： ```python import numpy as np from sklearn.cluster import KMeans from sklearn.metrics import normalized_mutual_info_score # 生成示例数据 X = np.random.rand(100, 2) # 定义K-means聚类算法 def kmeans_clustering(X, n_clusters): kmeans = KMeans(n_clusters=n_clusters) labels = kmeans.fit_predict(X) return labels # 聚类结果评估 def evaluate_clustering(labels_true, labels_pred): nmi = normalized_mutual_info_score(labels_true, labels_pred) return nmi # 假设已知的真实标签 labels_true = [0, 0, 1, 1, 2, 2, 2, 2, 3, 3, 3, 4, 4, 4] # 使用K-means聚类算法得到预测的标签 labels_pred = kmeans_clustering(X, n_clusters=5) # 评估聚类结果 nmi_score = evaluate_clustering(labels_true, labels_pred) print("NMI Score:", nmi_score) ``` 注意，这只是一个示例代码，你可以根据自己的数据和需求进行相应的修改。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值