cs229机器学习笔记———kmeans聚类

最新推荐文章于 2023-01-10 23:37:59 发布
最新推荐文章于 2023-01-10 23:37:59 发布
阅读量296 收藏
点赞数
分类专栏： cs229
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u012827801/article/details/80065287
版权

原理：

随机初始化质心；

迭代：

        对每个样本找离它最近的质心；

       

       在每个簇内，更新质心为所有样本的平均值；

          

循环退出条件为：达到预设的迭代轮次或者新旧质心之间的差距小于阈值

代价函数：

 

在某种程度上，能保证收敛

迭代部分：固定u，更新c，最小化J；固定c，更新u，最小化J；

所以J是单调下降的，J》=0，所以J一定收敛；但是c和u理论上有可能震荡（不同的c和u，取得相同的J），不过概率不大。

为什么J不是凸函数？

J不能保证收敛到全局最小，可以随机初始化多次，选择J最小的那组结果；

        

唐小夭
关注
专栏目录
机器学习笔记--DeepWalk和Node2Vec图嵌入代码实战一
太阳当空照，花儿对我笑，微风轻轻拂，心情无限好。
12-27 516
知识图谱专业老师：刘焕勇老师，也有公众号：老刘说NLP。
目标检测的Tricks | 【Trick13】使用kmeans与遗传算法聚类anchor
Clichong
04-23 2801
如有错误，恳请指出。 这篇博客的代码来着博主：太阳花的小绿豆，具体的解释说明可以见参考资料，这里只贴上代码留作笔记使用。 ps：参考资料解释得非常的详细 文章目录1. kmeans聚类中心2. kmeans聚类anchor3. kmeans+遗传算法聚类anchor 1. kmeans聚类中心 参考代码：plot_kmeans.py import numpy as np from matplotlib import pyplot as plt np.random.seed(0) colors = .
K-means算法、EM算法——斯坦福CS229机器学习个人总结（五）
Jiahe的博客
05-03 5160
这一份总结的主题是无监督学习的EM算法。 在前面提到的逻辑回归、SVM、朴素贝叶斯等算法，他们的训练数据都是带有标签的（预分类结果），这样的算法被称为监督学习。当训练数据没有标签，只提供特征时，称为无监督学习。 EM算法（Expectation maxmization algorithm，最大期望算法）就是一种无监督学习算法，而它的名字本身就已经包含了这个算法的特点以及做法——“期望”、“最大化
机器学习 cs229学习笔记2 (k-means,EM & Mixture of Gaussians)
DarkScope从这里开始
11-14 5655
（all is based on stanford's opencourse cs229 lecture 12） 首先介绍的是聚类算法中最简单的K-Means算法 ////////////////////////////////////////////////////////////////////////////////////////////////////////////////////
机器学习（十二）：CS229ML课程笔记（8）——K-means，EM算法
玥晓珖的博客
04-10 582
2.0 先来点基础概念的认识：这篇文章用例子说明了什么是极大似然估计，很直观。2.1 前提知识：2.2 EM算法：2.3 具体流程：2.3.1 E-step——由期望（Expectation）与Jensen不等式建立下界（最大似然函数引入z变量，分子分母同时乘以Q，log函数图像如下）2.3.2 M-step——最大化（Maxmize）下界2.4 EM收敛性2.5 坐标上升法理解EM2.6 编程练...
聚类算法-Kmeans算法的简单实现
热门推荐
我的新博客
10-29 1万+
1. 聚类与分类的区别：     首先要来了解的一个概念就是聚类，简单地说就是把相似的东西分到一组，同 Classification (分类)不同，对于一个 classifier ，通常需要你告诉它“这个东西被分为某某类”这样一些例子，理想情况下，一个 classifier 会从它得到的训练集中进行“学习”，从而具备对未知数据进行分类的能力，这种提供训练数据的过程通常叫做 supervise
一文搞懂K-means聚类算法（理论+实现）
彩虹地带
09-13 9114
导读：k-均值算法（英文：k-means clustering），属于比较常用的算法之一，文本首先介绍聚类的理论知识包括什么是聚类、聚类的应用、聚类思想、聚类优缺点等等；然后通过k-均值聚类案例实现及其可视化有一个直观的感受，针对算法模型进行分析和结果优化提出了二分k-means算法。最后我们调用机器学习库函数，很短的代码完成聚类算法。 理论介绍 聚类 什么是聚类 统计数据分...
机器学习——kmeans聚类
li_qili_qi的博客
11-27 484
KMeans需要解决的问题 1. KMeans的算法原理 2. KMeans算法的执行过程 3. KMeans有什么缺点，如何解决？ 4. 除了KMeans算法外，你还了解哪些聚类算法？请介绍一下其他聚类算法。 5. 有监督算法和无监督算法有什么区别？ 6. KMeans算法的伪代码 1. KMeans的算法原理 对于给定类别数目k，首先给定初始划分，通过迭代改变样本和簇的隶属关系，使得各个...
笔记_KMeans聚类
qq_36753329的博客
03-13 423
在处理离散数据分类时，我们常用的一个聚类方法就是KMeans。 KMeans是基于距离的排他方法，通过指定K的值，KMeans算法将数据构建成K个划分，每一个划分即一个聚类。所有聚类不为空，且每个点有且仅属于一个聚类 传统KMeans聚类 从数据离散点中随机选取K个点作为K个聚类的质心; 测量其他离散点，将其归入距离最小质心的聚类，并重新计算相应聚类的质心; 重复步骤2，直到聚类质心不...
机器学习笔记——16 聚类(clustering)：系统聚类与k-means聚类及对“距离”的重新认识(实战项目：利用k-means实现对图像的压缩)
ZJC_BELIEF的博客
05-28 643
机器学习笔记——11 k-means聚类算法及其改进(利用k-means实现对图像的压缩)
cs229 2017 作业答案
03-21
cs229 机器学习
总结了200道经典的机器学习面试题（附参考答案）
small-guo
07-01 7456
刷题，是面试前的必备环节。本文总结了往年BAT机器学习面试题，干货满满，值得收藏。想要入职大厂可谓是千军万马过独木桥。为了通过层层考验，刷题肯定是必不可少的。本文根据网络在线发布的BAT机器学习面试1000题系列，整理了一份面试刷题宝典。1.请简要介绍下SVM。SVM，全称是support vector machine，中文名叫支持向量机。SVM是一个面向数据的分类算法，它的目标是为确定一个分类超平面，从而将不同的数据分隔开。扩展：支持向量机学习方法包括构建由简至繁的模型：线性可分支持向量机、线性支持向量机
机器学习深度学习实战模板代码（持续更新）
weixin_45955767的博客
09-04 1878
数据预处理 有偏数据变正态分布 对数变换：可以让方差和均值呈现线性 data.apply(np.log) 减小偏度和峰度 data.apply(np.log).apply(scipy.stats.skew) #观察偏度 data.apply(np.log).apply(scipy.stats.kurtosis) #观察峰度 def plot_hist(df, variable, bins=20, xlabel=N...
k-means（学习Free Mind知识整理）
深藏功与名
08-24 1335
阅读http://blog.pluskid.org/?p=17文章中的一些知识整理： =============================================================== 聚类算法，不是分类算法。 分类算法是给一个数据，然后判断这个数据属于已分好的类中的具体哪一类。 聚类算法是给一大堆原始数据，然后通过算法将其中具有相似特征的数据聚为一类。
【聚类】详解常用的聚类算法（K-Means、DBSCAN等）
程序星空实验室
06-09 7834
聚类是将物理或抽象对象的集合分成由类似的对象组成的多个类的过程。由聚类所生成的簇是一组数据对象的集合，这些对象与同一个簇中的对象彼此相似，与其他簇中的对象相异。聚类是一种运用广泛的探索性数据分析技术，人们对数据产生的第一直觉往往是通过对数据进行有意义的分组，通过对对象进行分组，使相似的对象归为一类，不相似的对象归为不同类。常见的聚类算法有kmeans、DBSCAN、谱聚类。在无监督学习中，目标通过对无标记数据训练样本的学习来揭示数据内在的性质规律，将数据集中的样本划分为多个不相交的子集。......
用人话讲明白聚类算法kmeans
化简可得
07-28 2223
文章目录1.什么是聚类2.K-Means步骤3.K-Means的数学描述4.初始中心点怎么确定5.K值怎么确定6.小结 1.什么是聚类 先来回顾一下开篇就讲到的机器学习的种类。 监督式学习：训练集有明确答案，监督学习就是寻找问题（又称输入、特征、自变量）与答案（又称输出、目标、因变量）之间关系的学习方式。监督学习模型有两类，分类和回归。 • 分类模型：目标变量是离散的分类型变量； • 回归模型：...
聚类--常见的K-MEANS聚类，DBSCAN聚类方法介绍
Sunny不要停的博客
01-10 1334
➡️聚类就是把相似的物品分到一组。例如苹果，橙子属于水果类，猫，狗属于动物类，聚类把具有相似属性的物品分到同一组。☕常见的两种监督问题有监督问题：有标签学习，通过已知输入输出的训练样本进行训练，从而得到一个最优的模型，并将该模型应用在新的数据上，映射为输出结果。无监督问题：无标签学习，对没有标记的训练样本（即不知道当前输入数据对应的输出）进行学习，以发现训练样本集中的结构性知识。通过对无标记的学习来揭示数据的内在性质和潜在规律，为进一步的数据分析提供基础。➡️聚类是一个典型的无监督的问题➡️。
Kmeans算法
夏天DE风
06-07 1万+
擦  csdn竟然不能写MATLAB的 function [cid,nr,centers] = cskmeans(x,k,nc) % CSKMEANS K-Means clustering - general method. % % This implements the more general k-means algorithm, where %
k-means聚类原理 代码分析
whiteinblue的专栏
05-28 5708
K-means聚类算法 聚类算法，不是分类算法。 分类算法是给一个数据，然后判断这个数据属于已分好的类中的具体哪一类。 聚类算法是给一大堆原始数据，然后通过算法将其中具有相似特征的数据聚为一类。 这里的k-means聚类，是事先给出原始数据所含的类数，然后将含有相似特征的数据聚为一个类中。   K-means也是聚类算法中最简单的一种了，但是里面包含的思想却是不一般。最早我使用并实现这
Python——Kmeans聚类算法
最新发布
04-29
Kmeans聚类算法是一种无监督学习算法，用于将数据集划分为不同的簇。它是一个迭代算法，通过计算每个数据点与簇中心的距离，将数据点分配到最近的簇中心。然后，根据分配的数据点更新簇中心。重复这个过程，直到簇...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值