机器学习笔记整理（九）——聚类

最新推荐文章于 2024-04-21 12:08:43 发布
最新推荐文章于 2024-04-21 12:08:43 发布
阅读量453 收藏
点赞数
分类专栏： 机器学习&强化学习 文章标签： 聚类 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/xyq1212/article/details/106420538
版权

将训练输入样本基于相似度而进行分类的聚类方法

1.K均值聚类

  • 只能处理线性可分的聚类问题
  • 原则上，将簇标签分配到训练样本在，计算簇的分散情况，所有簇分散情况和最小的即最优解，但是这样计算时间会随n指数增长。
  • 实际上，将样本逐个分配到距离其最近的聚类簇中，并重复迭代求局部最优解。

2.核k均值聚类

  • 将核映射方法应用到k均值聚类中，得到非线性的簇分类结果
  • 聚类结果强烈依赖初始值的选取，尤其是在特征空间维度较高时，在实际中难以应用

3.谱聚类

过程：

  • 核映射\rightarrow特征空间
  • 在特征空间应用局部保持投影法降维
  • 应用k均值聚类
  • 还原到原始输入空间
xyq1212
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
聚类分析（一）基本思想
chiqi1020的博客
09-11 2万+
聚类分析 1.什么是聚类分析 聚类分析是将个体或对象分类，使得同一类中的对象之间的相似性比其他类的对象的相似性更强。 2.目的 目的是把相似的研究对象归成类，使类内对象的同质性最大化和类与类间对象的异质性最大化。 3.聚类分析的基本思想 ...
机器学习算法笔记-聚类
weixin_39835296的博客
08-27 384
聚类算法k-means聚类DBSCAN聚类 k-means聚类 相比于之前的线性回归和逻辑回归，k-means聚类算法属于无监督问题，因为没有标签，所以评估比较困难。 k-means的基本概念： 1.要得到簇的个数，需要指定k值 2.质心：均值，即向量各维的平均 3.距离的度量：常用欧氏距离得距离和余弦相似度（先标准化） 4.优化目标：每一簇内所有点离质心的距离最短。 优点和缺点： 优点，简单，快速，适合常规数据集。 缺点，k难确定，复杂度与样本呈线性关系，很难发现任意形状的簇（就是形状比较随意的那种）。
聚类分析
weixin_42155128的博客
07-22 4717
前言 概述 聚类分析的本质其实就是将一大堆的事物归类，虽然理论上来说这样的分析方式还不够完善，但是却能在实际上解决很多问题。 思想 每个事物之间，一般都会有一些属性或者说变量，我们通过判断这些属性或者变量的相似性来进行归类，一般来说，属性越相近的，我们越是要把他们放在一起。 分类 对样品的分类常称为Q型聚类分析 对变量的分类常称为R型聚类分析 一般来说，我们主要进行的是Q型聚类。因为我们往往是...
聚类算法篇章总结
dreamzuora的博客
03-07 3505
主要的距离计算方法包括： 最短距离法(通过样本数值之间的距离计算，然后将距离值最小的样本进行合并的过程) 最长距离法 中间距离法 重心法(重心聚类法：将两个聚类中心点的距离定义为两个类的重心距离，而类的重心为属于该类的样本的平均值) 离差平方和法 类平均距离法(动态聚类法：利用类平均值法对数据进行聚类的方法属于动态聚类的方法，也称逐步聚类法) 常见的聚类算法： K-Means算法：初...
机器学习笔记３——聚类
佐井白白的微笑
10-22 825
整理自Coursera。欢迎交流。 背景 　　比方一个人正在阅读一篇文章，你则呢在语料库里面寻找相似的文章来推荐给这个人呢？这是好多公司面临的问题。你在阅读网页内容的时候网站是怎么给你推送你可能喜欢的文章呢？ 相似度(Similarity)　　推送的文章肯定是与你正在阅读的文章相似的，因此有必要介绍一下怎么衡量２篇文章的相似度。 　　最简单粗暴的办法是把一篇文章打乱，统计每个单词出现的次数。我
Python机器学习——聚类的有效性指标
最新发布
2401_84009065的博客
04-21 453
它刻画的是：在CC中属于同一类的样本对中，同时属于C∗C∗的样本对的比例为p1p1，在C∗C∗中属于同一类的样本对中，同时属于CC的样本对的比例为p2p2，FMI就是p1p1和p2p2的几何平均。它刻画了所有属于同一类的样本对（要么在CC中属于同一类，要么在C∗C∗中属于同一类），同时在C,C∗C,C∗中属于同一类的样本量的比值。它刻画的是同时隶属C,C∗C,C∗的样本对与同时不隶属于C,C∗C,C∗的样本对之和占所有样本对的比例。diam(Ck)diam(Ck)：簇CkCk中距离最远的两个点的距离；
Python机器学习——聚类的有效性指标(1)
2401_84009054的博客
04-21 583
假设某个参考模型给出的簇划分为C∗C∗={C∗1C1∗,C∗2C2∗,…它刻画的是：在CC中属于同一类的样本对中，同时属于C∗C∗的样本对的比例为p1p1，在C∗C∗中属于同一类的样本对中，同时属于CC的样本对的比例为p2p2，FMI就是p1p1和p2p2的几何平均。它刻画了所有属于同一类的样本对（要么在CC中属于同一类，要么在C∗C∗中属于同一类），同时在C,C∗C,C∗中属于同一类的样本量的比值。它刻画的是同时隶属C,C∗C,C∗的样本对与同时不隶属于C,C∗C,C∗的样本对之和占所有样本对的比例。
SKlearn学习笔记——聚类算法
Stephen
06-07 5205
SKlearn学习笔记——聚类算法1. 概述1.1 无监督学习与聚类算法1.2 sklearn中的聚类算法2. KMeans2.1 KMeans是如何工作的2.2 簇内误差平方和的定义和解惑3. sklearn.cluster.KMeans3.1 重要参数n_clusters3.2 重要参数init:初始簇心怎么放好?3.3 重要参数max_iter & tol:让迭代停下来3.4 重要属性与重要接口3.5 函数k_means4. 附录4.1 KMeans参数列表4.2 KMeans属性列表4.3
机器学习-第九章聚类
11-22
在“无监督学习”中，训练样本的标记信息是未知的。目标是通过对无标记训练样本的学习来揭示数据的内在性质及规律，为了进一步的数据分析提供基础。
机器学习算法之 K 均值聚类
07-03
本文我们来学习一下另一种经常听到的机器学习算法—— K 均值聚类。 这个名字确实跟“K 近邻”有些相像，但是要明确的是，“K 近邻”中的“K”，指的是“与输入数据最接近的 K 个数据点”；而“K 均值聚类”中的 K...
机器学习代码实战——KMeans（聚类）
12-21
可视化聚类效果7.比较不同的簇数的均方误差8.对数据归一化处理 1.实验目的 1.使用sklearn库中的鸢尾花数据集，并尝试使用花瓣的宽度和长度特征来形成簇。 2. 为简单起见，删除其他两个特征。 3. 找出是否有任何...
机器学习（聚类十）——谱聚类及代码实现
12-21
谱聚类是基于谱图理论基础上的一种聚类方法，与传统的聚类方法相比：具有在任意形状的样本空间上聚类并且收敛于全局最优解的优点。（但效率不高，实际工作中用的比较少） 谱聚类 通过对样本数据的拉普拉斯矩阵的特征...
R语言——聚类分析.ppt
01-28
关于聚类分析的讲解及其r代码
深度学习笔记整理（五）——提高泛化能力的方法
xyq1212的博客
06-11 5333
1.训练样本 数据增强 方法：通过对样本图像平移、旋转或镜像翻转，增加样本数量； 优点：使有限的数据得到最大程度的有效利用。 使用大规模数据集 ImageNet：基于WorldNet，按层级图像分类，动物植物食物等，末梢节点包含多张对应图像； Place：在SVNDatabase基础上的扩展，包括多种场景，室内、室外、交通工具、建筑物等。 其它 设置图像中间区域为感兴趣区域，可以防止变换后的样本偏离图像区域； 对样本会产生形状变化的情况，如手写字符识别，先变形再数据增强，可以使用弹性变换算法，
机器学习笔记整理（三）——基于最小二乘法的分类
xyq1212的博客
05-28 2530
1.二分类问题 分类问题的损失函数 0/1损失 1/2(1-m)，分类错误损失为1，分类正确损失为0。 缺点是不连续，无法确定最优解，因此提出以下几种0/1损失的代理损失。 0/1损失的代理损失 损失：即最小二乘法分类，= Hinge损失：即支持向量机分类器 指数损失：Boosting分类器 Logistic损失：逻辑回归 Ramp损失：用于进行鲁棒学习 最小二乘法分类 原理：将分类问题看成函数的近似问题，再用最小二乘法求解即可，函数输出为{+1,0,-1} 线性判别分析算法
机器学习笔记整理（四）——支持向量机分类
xyq1212的博客
05-28 2208
1.间隔最大化分类 分离超平面：，使用分离超平面将正负样本分割开，即求解为正的w,r 将经过缩放变形为，这样更容易处理 最优解 可以最充分的分离正负样本的解，即，如下图： 最优解对应的分类器即硬间隔支持向量机分类器 2.用于线性模型的支持向量机分类器 硬间隔&软间隔 硬间隔支持向量机分类器：适用于样本线性可分的情况 软间隔支持向量机分类器：适用于样本线性不可分的情况，即允许一定的误差 硬间隔支持向量机分类器目标函数 ，约束条件 目标函数为二次函数，约束条件为线性函数，目标
机器学习笔记整理（二）——最小二乘法
xyq1212的博客
05-27 1915
1.最小二乘法 最小二乘法也叫做损失最小化学习法，适用于较小规模数据的学习，有过拟合的弱点。 梯度下降法是适用于大规模数据学习的算法，该方法的收敛速度依赖于梯度下降的步幅及收敛结果的判断方法。 2.带有约束条件的最小二乘法 原因：当参数较多时，求解参数及学习得到的函数的输出值的过程耗费大量的时间 优点：省时、防止过拟合 （1）部分空间约束的最小二乘法 只使用参数空间的一部分，保证参数θ不偏移到值域R(P)范围之外，通过正交投影矩阵P实现约束。 如果使用主成分分析法求解该部分空间，则该方.
聚类算法学习笔记（一）——基础
06-12
聚类算法可以帮助我们对数据进行分类、分析和理解，同时也可以为其他机器学习任务提供数据预处理和特征提取的支持。 聚类算法的基本流程包括：确定聚类算法的目标函数、选择相似度度量方法、选择聚类算法、确定聚类...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值