《统计学习方法》第 14 章 聚类方法 KMeans

最新推荐文章于 2022-05-03 22:30:02 发布
最新推荐文章于 2022-05-03 22:30:02 发布
阅读量567 收藏
点赞数
文章标签： 数据结构与算法
原文链接：https://juejin.im/post/5cfe7baef265da1b6a348a19
版权

k-均值聚类

n 个样本分到 k 个不同的类或簇，每个样本到其所属类的中心的距离最小。

每个样本只能属于一个类，所有 k-均值聚类 是 硬聚类。

模型

  • k < n
  • G_{i} \cap G_{j} = \varnothing, \bigcup_{i=1}^{k}G_{i} = X

策略

  • 距离： 欧式距离
  • 损失函数：样本与所属类的中心的距离总保
  • NP 困难问题

算法

目标函数极小化

  1. 初始化，随机取 k 个样本做中心
  2. 对样本进行聚类，计算样本到类中心距离，每个样本指派到与其最近的中心的类
  3. 计算新的类中心。对聚类结果计算样本的均值，做为新的类中心
  4. 如果迭代收敛或符合停止条件，输出。否则，令 t = t + 1 ，返回 2

源码：github.com/iOSDevLog/s…

转载于:https://juejin.im/post/5cfe7baef265da1b6a348a19

weixin_34406061
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Opencv Kmeans聚类进行图像颜色聚类分割（绝对有用）
08-31
该程序利用OpenCV中的K均值聚类函数Kmeans2对图像进行颜色聚类，达到分割的目的。 编写此函数的目的是：Kmeans2函数的用法有些难掌握，参考资料少，尤其是对图像进行操作的例子少，我找了很久也找不到, 找到的例子也...
统计学习方法-聚类方法-读书笔记
qq_38829768的博客
11-15 407
统计学习方法-聚类方法-读书笔记1、前言2、聚类的基本概念2.1相似度或距离2.2类或簇2.3类与类之间的距离3、层次聚类4、K均值聚类 1、前言 聚类事针对给定的样本，依据他们的特征和相似度或距离，将其归并到若干个类或簇的数据分析问题。聚类属于无监督学习。 2、聚类的基本概念 2.1相似度或距离 聚类的核心概念是相似度或距离。 ①闵可夫斯基距离 距离越大，相似度越小，距离越小，相似度越大。 di...
【学习笔记】统计学习方法——聚类方法
weixin_43869610的博客
10-27 344
摘要： 聚类是针对给定的样本，依据它们特征的相似度或距离，将其归并到若干个“类”或“簇”的数据分析问题。一个类是样本的一个子集。直观上，相似的样本聚集在相同的类，不相似的样本分散在不同的类。这里，样本之间的相似度或距离起着重要作用。 聚类的基本概念 首先定义一个矩阵X用来表示n个样本的m个属性。 X=[xij]m×n=[x11x12⋯x1nx21x22⋯x2n⋮⋮⋮xm1xm2⋯xmn] X = [x_{ij}]_{m\times n}= \begin{bmatrix} x_{11} & x_{12
统计学习方法笔记-聚类方法
qq_44822951的博客
11-27 754
一 什么是聚类 聚类是针对给定的样本，依据它们的特征的相似度或距离，将其归并到若干"类" 或者 "簇"的数据分析问题,直观上讲，聚类是将相似的样本归到一个类。 根据介绍我们明白，聚类的核心是如何来对两个样本的相似度来进行度量。聚类方法有多种度量方法，下面一起来看看吧。 二 相似度的度量方法 在聚类中，可以将样本集合看作是向量空间中点的集合，利用点和点之间的距离来代表样本与样本之间的相似度。点与点之间距离越近，则样本与样本的相似度越高。 下面来介绍几种距离度量 闵可夫斯基距离 给定样本集合X, X是m维实数向
李航老师《统计学习方法》第十四章聚类方法课后题答案
qq_41626059的博客
05-15 3780
1、试写出分裂聚类算法，自上而下地对数据进行聚类，并给出其算法复杂度。 解： 算法流程大致如下： 输入：数据集T，指定需要划分的簇数k 输出：k个数据集的子集 将数据集T中的所有样本作为一个初始簇。 在所有的簇中选择直径最大的簇记为C0C_0C0​。 计算簇C0C_0C0​中所有的点到其他点的平均距离最大的点 p0p_0p0​放在一个新的簇CnewC_{new}Cnew​中，C0C_0C0​中剩余的样本构成的簇记为ColdC_{old}Cold​ 然后重复一下过程：对ColdC_{old}Cold​中的点
《统计学习方法（第2版）》李航 第14章 聚类方法 思维导图笔记 及 课后习题答案（步骤详细） k-均值 层次聚类 第十四章
qq_26928055的博客
05-03 1484
思维导图： 14.1 试写出分裂聚类算法，自上而下地对数据进行聚类，并给出其算法复杂度。 i. 计算n个样本两两之间的距离，并将所有样本看作一个类，将样本间最大距离作为类直径； ii. 对于类直径最大的类，将其中相距最远，也就是距离为类直径的两个样本分成两个新类，该类其他样本就近（相对于那两个选中的样本）归于两个类之一； iii. 如果类别个数达到停止条件（预设的分类书）则停止，否则回到ii.步骤。 模型复杂度O(nnmn),与聚合（agglomerative）算法复杂度相同。 14.2 证明类或簇的四个
《统计学习方法》—— 聚类方法（层次聚类和K均值聚类）
qq_30841655的博客
06-21 2483
转载：https://www.cnblogs.com/nku-wangfeng/p/7642745.html 所谓聚类，就是将相似的事物聚集在一 起，而将不相似的事物划分到不同的类别的过程，是数据分析之中十分重要的一种手段。比如古典生物学之中，人们通过物种的形貌特征将其分门别类，可以说就是 一种朴素的人工聚类。如此，我们就可以将世界上纷繁复杂的信息，简化为少数方便人们理解的类别，可以说是人类认知这个世界的最基本方式之一。 在数据分析的术语之中，聚类和分类是两种技术。分类是指我们已经...
李航《统计学习方法》——聚类方法
熬不过找工作的未来程序媛
06-28 809
  聚类方法有很多，下面叙述最常用的两种聚类方法：层次聚类和k均值聚类。层次聚类又有聚合和分裂两种方法。聚合法开始将每个样本各自分到一个类；之后将距离最近的两类合并，建立一个新的类；之后将已有类别中相聚最远的样本分到两个新的类，重复此操作直到满足停止条件，得到层次化的类别。 14.1 聚类的基本概念 14.1.1 相似度或距离   聚类的对象是观测数据或样本集合。 ...
统计学习方法学习笔记：第十四章：聚类方法
weixin_44692791的博客
11-02 445
第十四章：聚类方法 基本概念 聚类是根据样本之间的相似度或距离来将样本进行归类，不同的距离度量方式会影响最终的聚类效果，常用的距离或相似度有下列： 闵可夫斯基距离：欧式、曼哈顿距离、切比雪夫距离等 马哈拉诺比斯距离：dij=[(xi−xj)TS−1(xi−xj)]12,d_{ij}=[(x_i-x_j)^TS^{-1}(x_i-x_j)]^{\frac{1}{2}},dij​=[(xi​−xj​...
7.3kmeans聚类分析07.mp4
07-26
基于王斌会《多元统计分析及R语言建模》第7章第3节聚类分析。主要介绍聚类分析的kmeans聚类法，以及相关算例。
李航博士《统计学习方法》代码以及讲解博客
03-14
内含李航博士《统计学习方法》代码以及讲解博客，有需要的同学自行下载
Python电商用户画像 kmeans聚类 商品特征提取 按月份统计客户人数
05-31
Python电商用户画像 kmeans聚类 商品特征提取 按月份统计客户人数 数据分析 数据挖掘 人工智能 机器学习
7.3kmeans聚类分析06.mp4
07-26
基于王斌会《多元统计分析及R语言建模》第7章第3节聚类分析。主要介绍聚类分析的kmeans聚类法，以及相关算例。 提示：视频不完整
基于 python的NLP应用于聊天信息 包括频率统计，关键词提取和文本聚类（kmeans、LDA）
最新发布
06-08
包括频率统计，关键词提取和文本聚类（kmeans、LDA） 【适用人群】：适用于希望学习不同技术领域的小白或进阶学习者。可作为毕设项目、课程设计、大作业、工程实训或初期项目立项。 【项目介绍】：一个关于聊天...
《统计学习方法》（第十四章）——聚类方法
mkopvec的博客
01-06 741
聚类基本概念 相似度或距离 类或簇 类与类之间的距离 层次聚类 K均值聚类 模型 策略 算法 算法特效
统计学习方法02-14.3 k-means聚类
sanctuary03的博客
03-12 589
k-means 聚类是基于样本集合划分的聚类算法。属于硬聚类。 具体：将样本集合划分为k个子集，构成k个类，每个样本到其所属的类中心的距离最小。 模型 k-means 聚类的目标：将n个样本分到k个不同的类或者簇中，假设k<nk<nk<n. k-means 聚类的模型是一个从样本到类的函数：l=C(i)l=C(i)l=C(i)，其中 iii 表示每一个样本(共n个)，lll 表示每一个类别(共k个)。 策略 k-means 聚类的策略：通过损失函数的最小化选取最优的划分或函数 C∗
组合数学之把n个不同的东西分给k个人，共有多少种分法
热门推荐
K键盘里的青春K
01-15 1万+
若不限每个人分得的物品件数. 与n和k的大小无关, 每件物品都有 k 种分法,则 n 件不同物品,按照乘法原则,共有 k^n 种分法. 如果是 n 件相同物品,则共有 C[ n+k-1 ,n] 种分法； 若限制每个人分得的物品件数. 比如每人至少一件 C(n,k)*A(k,k)*k^(n-k) C(n,k).A(k,k)表示每个人至少得一件物品的分法。
《统计学习方法》第14章习题答案
时间的玫瑰的博客
12-25 1550
14.2 定义1：设TTT为给定的正数，若集合GGG中任意两个样本xi,xjx_i,x_jxi​,xj​，有dij≤Td_{ij} \le Tdij​≤T，则称GGG为一个类。 1）设T′T'T′为给定的正数，取T′=TT' = TT′=T，根据定义1可知，对集合GGG的任意样本 ，一定存在xjx_jxj​，有dij≤Td_{ij} \le Tdij​≤T。因此可以推出定义2。 2）将G中所有的xj≠xix_j \neq x_ixj​​=xi​对应的dijd_{ij}dij​相加得∑xj∈Gdij≤(n
机器学习教程之10-聚类（Clustering）-K均值聚类（K-means）的sklearn实现
把你挖出来的博客
08-04 1万+
0.概述 ---- **优点**： 原理简单 速度快 能够处理大量的数据 **缺点**： 需要指定聚类 数量K 对异常值敏感 对初始值敏感
kmeans聚类直方图
06-03
Kmeans聚类是一种经典的无监督学习方法，它的目的是将数据集划分为K个簇。直方图是一种常见的数据可视化工具，用于表示数据的分布情况。在Kmeans聚类中，可以使用直方图来观察数据分布情况，有助于选择合适的簇数K。...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值