机器学习15-2（Mini Batch Kmeans）

已于 2023-07-06 06:36:42 修改
阅读量1.3k 收藏 1
点赞数 4
分类专栏： MachineL 文章标签： 机器学习 batch kmeans
于 2023-06-24 18:08:08 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Roy_Allen/article/details/131333137
版权
本文介绍了Mini Batch K-Means和DBSCAN两种聚类算法。Mini Batch K-Means通过小批量数据更新中心点，提高了聚类速度，牺牲部分精度。DBSCAN基于密度划分数据，能处理非凸边界，通过eps和min_samples参数控制聚类效果。两种算法在实际应用中可以相互补充。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

文章目录

简介

  • 除了K-Means快速聚类意外，还有两种常用的聚类算法
    • 能够进一步提升快速聚类的速度的 Mini Batch K-Means 算法
    • 能够和K-Means快速聚类形成性能上互补的算法 DBSCAN 密度聚类

Mini Batch K-Means

  • 非常抱歉，需要先来一段理论基础做铺垫，速览即可！
  • 在 K-Means 的基础上增加了一个 Mini Batch 的抽样过程，每轮迭代中心点时，不再代入全部数据、而是代入抽样的Mini Batch进行计算
    • 第一轮先随机选出中心点，一般用 kmeans++ 选 ，更稳
    • 从数据集中随机抽取一些数据（batch_size），把他们分配给最近的质心
    • 根据小批量数据划分情况，更新质心
    • 停止迭代的条件也有所不同
  • 此处可以用梯度下降和小批量（Mini Batch）梯度下降之间的差异进行类比
    • 梯度下降过程中，我们代入全部数据构造损失函数，相当于代入全部数据进行参数的更新，就类似于K-Means 代入每个簇
了解本专栏 订阅专栏 解锁全文 超级会员免费看
【机器学习】无监督学习--（聚类）Mini Batch K-Means
Roaddd的博客
02-16 2103
1. Mini Batch K-Means概述        Mini-Batch-K-MEANS算法是K-Means算法的变种，采用小批次量的数据子集减少计算时间。这里所谓的小批量是指每次训练算法时所随机抽取的数据子集，采用这些随机产生的子集进行训练算法，大大减小了计算时间，结果一般只略差于标准算法。 2. 算法步骤 1）从数据集中随机抽取一些数据形成小批量，把它们分配给最近的质心。 2）更新质心：与K均值算法相比，数据的过呢更新是在
详解Kmeans的两大经典优化——mini-batch和Kmeans++
TechFlow的博客
03-25 2084
本文始发于个人公众号：TechFlow，原创不易，求个关注 今天是机器学习专题的第13篇文章，我们来看下Kmeans算法的优化。 在上一篇文章当中我们一起学习了Kmeans这个聚类算法，在算法的最后我们提出了一个问题：Kmeans算法虽然效果不错，但是每一次迭代都需要遍历全量的数据，一旦数据量过大，由于计算复杂度过大迭代的次数过多，会导致收敛速度非常慢。 想想看，如果我们是在面试当中遇到的这个问...
python 增量聚类_适合大数据的聚类算法Mini Batch K-Means
weixin_39737764的博客
12-16 2054
K-Means算法是常用的聚类算法，但其算法本身存在一定的问题，例如在大数据量下的计算时间过长就是一个重要问题。为此，Mini Batch K-Means，这个基于K-Means的变种聚类算法应运而生。大数据量是什么量级？通过当样本量大于1万做聚类时，就需要考虑选用Mini Batch K-Means算法。但是，在选择算法时，除了算法效率(运行时间)外，算法运行的准确度也是选择算法的重要因素。Mi...
机器学习13：聚类Mini Batch K-Means
matafeiyanll的博客
02-05 1259
聚类Mini Batch K-Means Mini Batch K-Means 原理 Mini Batch K-Means算法是K-Means算法的变种，采用小批量的数据子集减小计算时间。这里所谓的小批量是指每次训练算法时所随机抽取的数据子集，采用这些随机产生的子集进行训练算法，大大减小了计算时间，结果一般只略差于标准算法。 该算法的迭代步骤有两步： 1：从数据集中随机抽取一些数据形成小批量，把他...
小批量K-均值（Mini Batch K-Means）
最新发布
...
07-07 1030
小批量K-均值（Mini Batch K-Means）是一种K-Means聚类算法的变种，它旨在处理。传统K-Means算法需要在每一轮迭代中遍历整个数据集，这在数据量巨大时是非常耗时的。Mini Batch K-Means通过每次（即“mini batch”）来更新聚类中心，从而显著减少了计算时间。
06 聚类算法 - 代码案例二 - K-Means算法和Mini Batch K-Means算法比较
weixin_34366546的博客
12-08 1282
03 聚类算法 - K-means聚类04 聚类算法 - 代码案例一 - K-means聚类05 聚类算法 - 二分K-Means、K-Means++、K-Means||、Canopy、Mini Batch K-Means算法 常规操作： import time import numpy as np import matplotlib.pyplo...
MinibatchKmeans——牺牲精度换取效率的一种kmeans改良
toohardp的博客
05-15 1012
毕设搞聚类，研究一下
【机器学习】K-Means算法详解：从原理到实践
鑫宝的博客
06-25 3176
K-Means算法以其简单高效的特点，在众多领域展现了强大的实用价值。然而，针对其存在的局限性，研究人员不断提出改进方法，如二分K-Means、谱聚类等，以适应更复杂的数据结构和应用场景。掌握K-Means不仅是数据科学基础的重要组成部分，也是进一步探索高级聚类技术的基石。希望本文能为读者理解并应用K-Means算法提供有益的指导。
毕业设计源码-基于Spark的Kmeans聚类算法优化.zip
09-26
【标题】"毕业设计源码-基于Spark的Kmeans聚类算法优化.zip"涉及的核心知识点是大数据处理技术和机器学习中的聚类算法。本项目利用Apache Spark框架，对K-means聚类算法进行了优化，适用于海量数据的分析和挖掘。 ...
聚类算法之Mini Batch K-Means 算法
jack_jay_du的博客
08-17 5607
定义 Mini Batch K-Means算法是K-Means算法的一种优化方案，采用小批量的数据子集减小计算时间，同时仍试图优化目标函数，这里所谓的小批量是指每次训练算法时所随机抽取的数据子集，采用这些随机产生的子集进行训练算法，大大减小了计算时间，与其他算法相比，减少了k-均值的收敛时间，小批量k-均值产生的结果，一般只略差于标准算法。 Mini Batch KMeans使用了一个种叫做M...
使用Mini-Batch-K-Means对图像进行压缩
weixin_42660173的博客
09-27 780
针对一张成都著名景点：锦里的图片，通过 Mini Batch K-Means 的方法将相近的像素点聚合后用同一像素点代替，以达到图像压缩的效果。 直接看代码 # -*- coding: utf-8 -*- """ Created on Thu Sep 27 09:31:20 2018 图像压缩--- MiNi-Batch-K-Means方法 原理：相近像素点进行聚类并用同一像...
【聚类算法】MiniBatchKMeans算法
热门推荐
yiyue21的博客
05-15 1万+
MiniBatchKMeans类主要参数 　　　　MiniBatchKMeans类的主要参数比KMeans类稍多，主要有： 　　　　1)n_clusters: 即我们的k值，和KMeans类的n_clusters意义一样。 　　　　2）max_iter：最大的迭代次数，和KMeans类的max_iter意义一样。 　　　　3）n_init：用不同的初始化质心运行算法的次数。这里和...
Minibach kmeans 方法
lv_tianxiaomiao的博客
03-13 1244
kmeans是一个基本的聚类方法，相信学过数据挖掘的都会懂这个算法 不过kmeans在数据量大的情况下会导致计算时间过长的问题， 所以自然而然的就会有相应的提高计算速度的方法出现 其实跟随机梯度下降的方法类似，也就是minibatch方法，基本上都一样 随机梯度下降是使用随机的样本来计算下降的梯度，而不是使用全局梯度 这个好处就是计算快，坏处就是局
机器学习之聚类算法（四）Mini Batch K-Means和DBSCAN密度聚类
繁华三千东流水不舍昼夜的博客
08-21 1739
DBSCAN(Density-Based Spatial Clustering of Applications with Noise，具有噪声的基于密度的聚类方法)是一种很典型的密度聚类算法，和K-Means这些一般只适用于凸样本集的聚类相比，DBSCAN既可以适用于凸样本集（简单点说集合里任意两点连接成的线段中的点也在集合中，那么就是凸集），也可以适用于非凸样本集。
Kmeans算法的经典优化——mini-batch和Kmeans++
hdx柿子的博客
03-27 683
感谢参考原文-http://bjbsair.com/2020-03-27/tech-info/7090/ mini batch mini batch的思想非常朴素，既然全体样本当中数据量太大，会使得我们迭代的时间过长，那么我们 缩小数据规模 行不行？ 那怎么减小规模呢，很简单，我们随机从整体当中做一个抽样， 选取出一小部分数据来代替整体 。这样我们人为地缩小样本的规模，不就可以提升迭代的速度了？ ...
机器学习/sklearn 笔记：K-means,kmeans++,MiniBatchKMeans，二分Kmeans
qq_40206371的博客
11-22 3055
indices：形状为(n_clusters,) 在数据数组X中选择的中心的索引位置。对于给定的索引和中心，X[index] = center。centers：形状为(n_clusters, n_features) ，k-means的初始中心。sample_weight 是X中每个观测的权重。如果为None，则所有观测都被赋予相等的权重。样本到最近簇中心的平方距离之和，如果提供了样本权重，则按样本权重加权。（也就是KMeans里面fit的内容）类似于使用k_means++来进行。用来选择初始种子的数据。
机器学习超参数mini-batch（小批量）与正则化
bewithme的专栏
01-30 5268
1、一个epoch（周期）为所有数据完成一次前向与反向传播，iteration(迭代次数)为权重参数更新的次数，mini-batch（小批量）为一次权重参数更新所用的数据条数。迭代次数=数据总数／小批量 ，例如数据总数为2000条数据，小批量为500，那么一个周期内迭代次数=2000／500=4 ，如果是两个周期，那么迭代次数=2*（2000／500）=8 2、mini-batch越大，意味着计...
第九章.聚类算法—K-MEANS，Mini Batch K-Means
weixin_45116749的博客
03-22 776
聚类算法：K-MEANS，Mini Batch K-Means
机器学习——K-Means聚类
T940842933的博客
08-01 9965
K-Means 算法是一种无监督的聚类算法，其核心思想是：对于给定的样本集，按照样本点之间的距离大小，将样本集划分为K个簇，并让簇内的点尽量紧凑，簇间的点尽量分开算法流程图如下：K-Means算法流程如图，以为例：我们需要将图(a) 中的样本点划分为两类，则K-means聚类过程如下：第 1 步：从M个数据对象中任意选择2个对象作为初始聚类中心，如图(b) 所示。
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Roy_Allen

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值