机器学习算法进阶——聚类

最新推荐文章于 2024-04-22 10:16:45 发布
最新推荐文章于 2024-04-22 10:16:45 发布
阅读量190 收藏
点赞数
分类专栏： 机器学习算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42873479/article/details/109110525
版权

聚类理论、实践

手写理论

在这里插入图片描述在这里插入图片描述在这里插入图片描述
在这里插入图片描述在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

聚类

聚类的定义

在这里插入图片描述

相似度/距离计算方法总结

在这里插入图片描述
【余弦相似度和Pearson系数】
在这里插入图片描述

聚类的基本思想

在这里插入图片描述

K-means算法

在这里插入图片描述
在这里插入图片描述

K-means缺点

K-means是初值敏感的。
在这里插入图片描述
K-means的公式化解释
在这里插入图片描述K-means++算法:
(1)假设已经选取了n个初始聚类中心(0<n<K)，则在选取第n+1个聚类中心时：距离当前n个聚类中心越远的点会有更高的概率被选为第n+1个聚类中心。
(2)在选取第一个聚类中心(n=1)时同样通过随机的方法。

K-means聚类方法总结

在这里插入图片描述

聚类的衡量指标

在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述

层次聚类方法

在这里插入图片描述
【AGNES和DIANA算法】
在这里插入图片描述【层次聚类】
在这里插入图片描述【AGENS中簇间距离的不同定义】
在这里插入图片描述

密度聚类方法

在这里插入图片描述
【DBSCAN算法】
在这里插入图片描述
【DBSCAN算法的若干概念】
在这里插入图片描述在这里插入图片描述【DBSCAN算法】
在这里插入图片描述【密度最大值聚类】
在这里插入图片描述
【局部密度的其他定义】
在这里插入图片描述【高局部密度点距离】
在这里插入图片描述【簇中心的识别】
在这里插入图片描述【DensityPeak与决策图Decision Graph】
在这里插入图片描述
【边界和噪声的重认识】
在这里插入图片描述在这里插入图片描述

谱聚类（AP聚类）Affinity Propagation

PS：实对称阵的特征值是实数；实对称阵不同特征值的特征向量正交。

谱和谱聚类

【谱和谱聚类】
在这里插入图片描述【拉普拉斯矩阵的定义】
在这里插入图片描述

谱聚类算法

【未正则拉普拉斯矩阵】
在这里插入图片描述
【随机游走拉普拉斯矩阵】
在这里插入图片描述
【对称拉普拉斯矩阵】
在这里插入图片描述当 L = D − W L=D-W L=D−W时是计算L的特征值，将特征值从小到大排序，选取前k个特征值；D-W是从大到小排列。
当 L = D − 1 ( D − W ) L=D^{-1}(D-W) L=D−1(D−W)，是从小到大排序， L = D − 1 W L=D^{-1}W L=D−1W是从大到小排。
【进一步思考】
在这里插入图片描述【随机游走和拉普拉斯矩阵的关系】
在这里插入图片描述PS：标签传递算法
在这里插入图片描述

糖糖Amor
关注
专栏目录
【进阶版】 机器学习之聚类算法原理详解+案例解说（14）
迷茫与徘徊只会让你陷入绝境，欢迎私信博主，带你开始提升变现价值！
08-23 1197
机器学习算法知识、数据预处理、特征工程、模型评估——原理+案例+代码实战机器学习之Python开源教程——专栏介绍及理论知识概述机器学习框架及评估指标详解Python监督学习之分类算法的概述数据预处理之数据清理，数据集成，数据规约，数据变化和离散化特征工程之One-Hot编码、label-encoding、自定义编码卡方分箱、KS分箱、最优IV分箱、树结构分箱、自定义分箱特征选取之单变量统计、基于模型选择、迭代选择机器学习八大经典分类万能算法——代码+案例项目开源、可直接应用于毕设+科研项目。
Python机器学习——聚类的有效性指标(1)
2401_84009929的博客
04-08 882
假设某个参考模型给出的簇划分为C∗C∗={C∗1C1∗,C∗2C2∗,…它刻画的是：在CC中属于同一类的样本对中，同时属于C∗C∗的样本对的比例为p1p1，在C∗C∗中属于同一类的样本对中，同时属于CC的样本对的比例为p2p2，FMI就是p1p1和p2p2的几何平均。它刻画了所有属于同一类的样本对（要么在CC中属于同一类，要么在C∗C∗中属于同一类），同时在C,C∗C,C∗中属于同一类的样本量的比值。它刻画的是同时隶属C,C∗C,C∗的样本对与同时不隶属于C,C∗C,C∗的样本对之和占所有样本对的比例。
一文搞懂K-means聚类和AP聚类
weixin_44720323的博客
04-21 2821
一文搞懂K-means聚类和AP聚类 文章目录一文搞懂K-means聚类和AP聚类1. K-means聚类1.1 背景及发展介绍1.2 算法及公式介绍1.3 案例介绍2. Affinity Propagation (AP)聚类2.1 背景及发展介绍2.2 算法及公式介绍2.3 案例介绍3. 参考文献 1. K-means聚类 1.1 背景及发展介绍 K−meansK-meansK−means算法的...
算法进阶：聚类算法
weixin_40313252的博客
11-10 1479
1 kmeans基础原理 1.1 工作原理 step1：随机抽取k个样本作为最初的质心 step2：循环： 2.1 将每个样本分到距离他们最近的质心，形成k个簇 2.2 对于每个簇，计算簇内样本的平均值作为新的质心 setp3：当质心的位置不再发生变化，迭代停止，聚类完成 1.2 计算距离的方式 样本点到其所在簇的质心的距离衡量方式有： 令x表示簇中的一个样本点， μ表示该簇中的质心，n表示每个样本点中的特征数目，i表示组成点的每个特征。 余弦距离常用于文本。 如我们采用欧几里得距离，则一个簇中所有样本点
[Python嗯~机器学习]---对聚类算法的进阶补充
kepengs的博客
01-21 218
对聚类算法的进阶补充 聚类我们应该都知道它的用途，大体上的聚类我们的思路都是通过计算不同样本点的距离来进行分类。 入门算法：k-means算法 层次聚类： 密度聚类： 边界和噪声： 谱聚类： 拉普拉斯矩阵： 总结： 谱聚类（spectral clustering）是广泛使用的聚类算法，比起传统的K-Means算法，谱聚类对数据分布的适应性更强，聚类效果也很优秀...
皮尔逊、肯德尔、斯皮尔曼相关分析分别是针对什么_SPSS 聚类分析之系统（分层）聚类...
weixin_39560064的博客
11-22 1787
前文说到K—均值聚类分析，该篇介绍系统聚类法系统聚类法常称为层次聚类法、分层聚类法，也是聚类分析中使用广泛的一种方法。它有两种类型，一是对研究对象的本身进行分类，称为Q型聚类；另一是对研究对象的观察指标进行分类，称为R型聚类。同时根据聚类过程不同，又分为分解法和凝聚法。特点：样本和变量都可以聚类，变量可以为连续或分类变量（变量虽然可以为连续型或者分类型，但是不能混用，要不就是全分类这样使用，要不就...
人工智能——聚类算法
最新发布
2401_84008965的博客
04-22 407
3.2 层次聚类自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。深知大多数Python工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！因此收集整理了一份《2024年Python开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。
详解十大经典机器学习算法——EM算法
TechFlow的博客
04-01 911
本文始发于个人公众号：TechFlow，原创不易，求个关注 今天是机器学习专题的第14篇文章，我们来聊聊大名鼎鼎的EM算法。 EM算法的英文全称是Expectation-maximization algorithm，即最大期望算法，或者是期望最大化算法。EM算法号称是十大机器学习算法之一，听这个名头就知道它非同凡响。我看过许多博客和资料，但是少有资料能够将这个算法的来龙去脉以及推导的细节全部都讲...
DBSCAN聚类算法原理总结
3D视觉工坊
07-21 575
点击上方“3D视觉工坊”，选择“星标”干货第一时间送达作者丨石头来源丨机器学习算法那些事DBSCAN是基于密度空间的聚类算法，在机器学习和数据挖掘领域有广泛的应用，其聚类原理通俗点讲是每个簇类的密度高于该簇类周围的密度，噪声的密度小于任一簇类的密度。如下图簇类ABC的密度大于周围的密度，噪声的密度低于任一簇类的密度，因此DBSCAN算法也能用于异常点检测。本文对DBSCA...
point-cloud-clusters：ROS中的catkin工作区，它使用DBSCAN识别点云中的哪些点属于同一对象
02-06
点云群 我应用一种称为DBSCAN的聚类技术来识别点云中的哪些点属于同一对象。 这是的。 这建立在我基础上，在该，我运用技术来分离我们感兴趣的对象。 重要档案 相关链接 您可以了解有关更多信息。 您可以通过以下链接了解有关DBSCAN的更多信息： 依存关系 您需要具有ROS full-desktop-version的Ubuntu 16.04.2，其中包括RViz和Gazebo 您必须克隆存储库，进入目录并安装依赖项： $ rosdep install --from-paths src --ignore-src --rosdistro=kinetic -y $ catkin_make 将
聚类分析
tongle.wang Homepage
02-14 7506
聚类分析（Cluster Analysis） 一、聚类分析与判别分析 • 判别分析：已知分类情况，将未知个体归入正确类别 • 聚类分析：分类情况未知，对数据结构进行分类   二、Q型和R型 聚类   Q型是对样本进行分类处理，其作用在于: 1.能利用多个变量对样本进行分类 2.分类结果直观，聚类谱系图能明确、清楚地表达其数值分类结果 3.所得结果比传统的定性分类方法更细致、
聚类算法-DBSCAN-C++实现
k76853的专栏
12-31 2万+
程序流程图： DBSCAN核心功能函数，计算每个point的eps范围内的point数量pts； 对于所有pts >Minpts的point，记为Core point； 对于所有的corepoint，将其eps范围内的core point下标添加到vector::corepts中； 对于所有的corepoint，采用深度优先的方式遍历core point的所有cluster，使
SOFM-Matlab实例
qq_30049249的博客
08-20 2479
，，
分类聚类区别及聚类概述
热门推荐
xzfreewind的博客
06-27 5万+
在初学分类聚类时，对这两个概念不是很了解。随着深入的了解，现有了一些基本的认识。现对聚类进行个人理解上的总结，欢迎大家批评指正。 一、分类和聚类的区别 分类和聚类的概念是比较容易混淆的。 对于分类来说，在对数据集分类时，我们是知道这个数据集是有多少种类的，比如对一个学校的在校大学生进行性别分类，我们会下意识很清楚知道分为“男”,“女” 而对于聚类来说，在对数据集操作时，我们是不知道该数
DBSCAN聚类point cloud
mthdxc的博客
10-17 4364
这是看网上别的dbscan代码改的，用来处理点云分割问题，啊计入pcl点云库，用八叉树的邻域搜索来找临近的点
四种聚类算法的比较
不忘初心 方得始终
04-15 2万+
聚类分析是一种重要的人类行为，早在孩提时代，一个人就通过不断改进下意识中的聚类模式来学会如何区分猫狗、动物植物。目前在许多领域都得到了广泛的研究和成功的应用，如用于模式识别、数据分析、图像处理、市场研究、客户分割、Web文档分类等[1]。 　聚类就是按照某个特定标准(如距离准则)把一个数据集分割成不同的类或簇，使得同一个簇内的数据对象的相似性尽可能大，同时不在同一个簇中的数据对象的差异性也尽可能
聚类算法（基础及核心概念）
buracag_mc的博客
07-01 8673
聚类分析是数据挖掘中比较常见和基础的方法；本篇文章简要介绍了聚类分析算法的基础知识以及核心概念~~.
海伦司招股书解读：机器学习基础——加法与标量乘法
矩阵乘法不仅在基本数学运算中有重要地位，也是许多机器学习算法的基础，比如支持向量机（SVM）中的核函数计算，就是通过内积（标量乘法的一种特殊形式）来处理非线性关系。 在课程中，还提到了组合算法的相似之处...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值