MNIST图像谱聚类的案例实现

最新推荐文章于 2025-02-28 07:34:30 发布
最新推荐文章于 2025-02-28 07:34:30 发布
阅读量3.8k 收藏 32
点赞数 6
分类专栏： python基础知识积累 image classification of DL 文章标签： python 聚类 计算机视觉 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43051346/article/details/107575746
版权

Index 目录索引

写在前面

最近要做一个基于无监督学习的传统图像分类，需要使用到聚类分析方法，但看到网上大多数都是关于点集的案例分析，基于自然图像的聚类分析实在是难觅，于是乎花了将近一周时间，参照着 Programming Computer Vision with Python 这本书以及相关文章进行了研究1，并实现了MNIST图像的谱聚类小案例（代码已在GitHub开源2），以记录之。

谱聚类简介

谱聚类是从图论中演化出来的算法，后来在聚类中得到了广泛的应用。它的主要思想是把所有的数据看做空间中的点，这些点之间可以用边连接起来。距离较远的两个点之间的边权重值较低，而距离较近的两个点之间的边权重值较高，通过对所有数据点组成的图进行切图，让切图后不同的子图间边权重和尽可能的低，而子图内的边权重和尽可能的高，从而达到聚类的目的3。谱聚类的聚类效果通常优于传统的聚类算法（如K-Means算法）。

数据集

本案例使用MNIST手写数字图像数据集，首先选取合适的图像，并整理如下图所示：
整理挑选的MNIST数据

代码实现步骤详述

图像预处理

由于谱聚类对图像尺寸和文件名有要求，所以首先对图像进行灰度化和resize操作，分别对应项目中的grayscale_processing.py和picture_resize.py这两个代码文件。

谱聚类操作

在项目中的spectral_clustering.py代码文件中，进行图像的谱聚类。代码如下：

# -*- coding: utf-8 -*-
from PCV.tools import imtools, pca
from PIL import Image, ImageDraw
from pylab import *
from scipy.cluster.vq import *
import os
import random


# imlist = imtools.get_imlist('./dir_my')
imlist = imtools.get_imlist('./dir_my_gray_rescale')
imnbr = len(imlist)

# Load images, run PCA.
immatrix = array([array(Image.open(im)).flatten() for im in imlist], 'f')
V, S, immean = pca.pca(immatrix)

# Project on 2 PCs.
projected = array([dot(V[[0, 1]], immatrix[i] - immean)
                   for i in range(imnbr)])  # P131 Fig6-3左图
#projected = array([dot(V[[1, 2]], immatrix[i] - immean) for i in range(imnbr)])  # P131 Fig6-3右图

n = len(projected)
# compute distance matrix
S = array([[sqrt(sum((projected[i]-projected[j])**2))
            for i in range(n)] for j in range(n)], 'f')
# create Laplacian matrix
rowsum = sum(S, axis=0)
D = diag(1/sqrt(rowsum))
I = identity(n)
L = I - dot(D, dot(S,D))
# compute eigenvectors of L
U, sigma, V = linalg.svd(L)
k = 3
# create feature vector from k first eigenvectors
# by stacking eigenvectors as columns
features = array(V[:k]).T
# k-means
features = whiten(features)
centroids, distortion = kmeans(features,k)
code, distance = vq(features, centroids)

# plot clusters 绘制聚类簇
for c in range(k):
    ind = where(code == c)[0]   # where函数返回数组的索引值
    figure()   # 创建figure实例
    gray()
    for i in range(minimum(len(ind), 39)):
        # print(imlist[ind[i]])   # ./dir_my_gray_rescale\5.jpg
        im = Image.open(imlist[ind[i]])
        # print("im:%s" % im)  # im:<PIL.JpegImagePlugin.JpegImageFile image mode=L size=28x28 at 0x241B9DD2EF0>
        image_name = imlist[ind[i]].split("\\")[1]  # image_name: 5.jpg
        image_name_real = image_name.split(".")[0]  # image_name_real: 1_1
        image_name_new = image_name_real + ".png"
        # print(image_name_new)   # image_name_new: 1_1.png
        # print("image_name: %s" % image_name)
        # print("image_name_real: %s" % image_name_real)
        subplot(4, 10, i+1)
        imshow(array(im))   # 绘图
        # print("array(im)的值为%s" % array(im))

        # 使用imsave()函数保存图像
        pre_savename = "./dir_classfied_my/%02d/" % c   # "./dir/00"
        # savename = os.path.join(pre_savename, str(random.randint(0, 10000000)))
        savename = os.path.join(pre_savename, image_name_new)
        imsave(savename, array(im))

        axis('equal')
        axis('off')
show()

聚类后的MNIST图像数据如下图所示：
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在实现了聚类之后，编写代码实现聚类后图像的分门别类，效果图如下：
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
通过观察可以发现，基于无监督的谱聚类进行图像分类还是有一定的效果的，而且通过对比实验发现，待分类的图像数据越多，分类越精确。

聚类后的图像对应还原操作

由于在聚类操作前对数据进行了图像预处理操作，所以如果要保持原来的图像，需要对其进行还原操作，还原的方法有很多种，这里依据图像名来进行，于是乎编写代码如下（对应项目中的returned.py代码文件）：

import os
import glob
import shutil


PATH_0 = './dir_my/'  # 存放原始图像的文件夹路径
PATH_1 = './dir_classfied_my/'  # 存放根据聚类效果来对原始图像重新排布的原始图像文件夹路径
# 1、先遍历图像处理前总文件夹的图像文件
for filename_0 in os.listdir(r"./dir_my"):      # listdir的参数是文件夹的路径
    # print(filename_0)        #此时的filename是文件夹中文件的名称
    for filename_1 in os.listdir(r"./dir_classfied_my"):
        # print(filename_1)  #  filename_1: 00 01 02
        for filename_2 in os.listdir(r"./dir_classfied_my/%s" % filename_1):
            # print(filename_2)    # filename_2: '1_2.jpg'

            paths = PATH_0 + filename_1 + '/' + filename_2
            # print(paths)
            if filename_2 == filename_0:
                shutil.copy(os.path.join(PATH_0, filename_0), os.path.join(PATH_1, filename_1, filename_0))

这里一心想实现最终效果，所以并没有过多考虑时间复杂度的问题 [手动狗头]，代码还有很大的优化空间。

这篇文章写出来，希望能帮助到有需要的人们，同时也是为了日后需要时的查阅方便。文章中项目的代码已开源，点击这里即可查看，如果有帮助到你，请动动你的小手在GitHub上点亮☆ Star。

写到这里，差不多本文就要结束了。如果有问题可以在下方留言区留言交流，错误之处也欢迎小伙伴们的批评指正。如果我的这篇文章帮助到了你，那我也会感到很高兴，一个人能走多远，在于与谁同行。

  1. Python计算机视觉编程 - 第六章 图像聚类 ↩︎

  2. 本文案例的GitHub代码 ↩︎

  3. 谱聚类（spectral clustering）原理总结 ↩︎

数据处理和分析之数据聚类：BIRCH算法在图像数据聚类中的应用
2401_87715305的博客
10-15 1027
通过上述示例，我们展示了如何使用BIRCH算法对图像数据进行聚类分析。BIRCH算法通过构建CF树来高效处理大规模数据集，特别适用于高维数据的聚类。在实际应用中，BIRCH算法可以用于图像分割、特征识别等多种场景，为图像处理和分析提供了强大的工具。BIRCH（Balanced Iterative Reducing and Clustering using Hierarchies）算法是一种特别设计用于处理大规模数据集的聚类算法。在图像数据聚类中，BIRCH算法展现出其独特的优势，同时也存在一定的局限性。
Python计算机视觉——图像聚类
Lsy_dxsj的博客
07-04 1万+
文章目录第六章——图像聚类K-means聚类层次聚类谱聚类 第六章——图像聚类 介绍聚类方法，展示如何利用它们对图像进行聚类，从而寻找相似的图像组。聚类可以用于识别、划分图像数据集，组织与导航。第三节会对聚类后的图像进行相似性可视化。 先来大致了解一下本章的聚类方法： 聚类方法 定义 思想 优点 缺点 K-means聚类 将输入数据划分成K个簇 反复提炼初始评估的类中心 适用情形广泛 不能保证得到最优结果；需预先设定聚类数k 层次聚类（或凝聚式聚类） 基于样本间成对距离建立一个简相似树
一个简单谱聚类的例子
weixin_33774615的博客
04-18 936
聚类是一种常见的无监督学习方法，目的在于从原始无标记数据中提取出分类标记。最简单的代表是K-means聚类，下面给出一个简单例子： n=300; c=3; t=randperm(n); x=[randn(1,n/3)-2 randn(1,n/3) randn(1,n/3)+2; randn(1,n/3) randn(1,n...
【聚类技术】谱聚类
最新发布
人工智能(AI)技术，大模型技术，深度学习，机器学习，计算机视觉，AI工具实践应用等分享
02-28 655
谱聚类是一种强大的聚类方法，特别适合处理具有复杂结构的非线性数据。在本节中，我们通过以下三个实际应用案例展示了谱聚类的强大功能： 社交网络中的社区发现：通过用户之间的关系，使用谱聚类将社交网络中的用户分为不同的社群，揭示社交结构。 图像分割：通过图像像素之间的相似性，应用谱聚类方法进行图像分割，区分图像中的不同区域。 推荐系统中的用户分群：通过用户行为数据，利用谱聚类识别用户群体，为个性化推荐提供支持。 谱聚类能够有效地处理复杂的数据结构，并且不依赖于簇的形状，因此非常适用于具有非线性关系和复杂结构的数据
聚类方法学习（五）谱聚类算法Spectral Clustering与案例
呆萌的代Ma
03-22 359
谱聚类算法概述 详情请参考：https://www.cnblogs.com/pinard/p/6221564.html Spectral Clustering算例 from sklearn.cluster import spectral_clustering import numpy as np from sklearn import metrics from sklearn.preprocessing import StandardScaler X = np.random.random((1000,
机器学习算法（一） K-Means算法简述以及在MNIST上的聚类实现
热门推荐
chiqideshijie的博客
07-28 1万+
简述 KNN的全称是K Nearest Neighbors，意思是K个最近的邻居。 KNN的原理就是当预测一个新的值x的时候，根据它距离最近的K个点是什么类别来判断x属于哪个类别。
08-07_案例七：谱聚类(SC)算法案例(了解)
HJZ11的博客
03-31 496
聚类算法：谱聚类算法基础
kkchenjj的博客
07-14 857
谱聚类算法，凭借其在处理复杂数据结构和非线性关系方面的优势，已经成为数据科学领域中一个重要的工具。无论是图像分割、社交网络分析，还是生物信息学研究，谱聚类都能提供有效的解决方案，帮助我们从数据中发现隐藏的模式和结构。谱聚类是一种基于图论的聚类方法，它通过构建数据点之间的相似性图，然后利用图的拉普拉斯矩阵的谱（特征值和特征向量）来发现数据的潜在结构。谱聚类可以处理非凸形状的聚类问题，这是传统聚类算法如K-means所不能解决的。构建相似性图。
kmeans聚类算法案例实现mnist
12-29
### K-Means聚类算法实现MNIST手写数字识别 #### 数据准备与导入库 为了使用K-Means聚类算法处理MNIST数据集，首先需要安装并加载必要的Python包。这些工具可以帮助完成数据分析、机器学习建模以及图形展示的任务。...
PySpark-ClusterClassify:使用AWS Sagemaker在MNIST数据集上进行分布式KMeans聚类和XGBoost分类作业
03-27
MNIST数据集是机器学习领域中的经典案例，用于训练和评估图像识别算法。 首先，让我们了解PySpark。PySpark是Apache Spark的Python API，它允许开发者用Python编写分布式计算程序，适用于大数据处理。Spark的核心...
谱聚类算法解析与实例演示
例如，社交网络分析中的社群发现、图像分割中的目标检测以及自然语言处理中的文本聚类等领域都可以应用谱聚类算法来进行模式识别和数据分析。 谱聚类算法的基本思想源于图论中的谱理论和代数图论。它通过将数据样本...
谱聚类算法对数据点进行分类
04-01
使用谱聚类算法对matlab产生的随机数据点进行分类，共有三个案例，每个案例都可以直接运行
手写kmeans，支持向量量化，高斯聚类函数对mnist，yale，lung进行聚类.rar.rar
11-27
official_classification.py ： 使用了较多的sklearn中提供的聚类函数 self_classification.py ： 使用了较多的手写聚类函数（手写高斯聚类由于计算高维矩阵n次方报错，就没有使用） 两者可以相互比较看手写函数效果如何。 model.py ： 其中包含了kmeans，lvq，mixture-of-gaussian聚类函数，以及计算精度和NMI的手写函数，处理标签映射的匈牙利算法。 由于学习向量量化是依据ground truth的得到的一组原型向量，是有监督的学习，因此计算其精度没有意义，在函数里就没有计算精度和NMI，只打印出了原型向量 函数运行时会有warning，不用在意，手写的函数没有优化，速度较慢 代码对三个数据集，分别使用了kmeans，lvq，mixture-of-gaussian三个方法，在得到预测标签后，采用匈牙利算法对标签进行处理，计算其精确度acc和标准互信息nmi 这三种方法聚类的精度只有百分之五十几，在数据集yale中效果较差 运行方法： 安装相应需求的库，直接运行official_classifica
K近邻分类器对mnist数据集进行分类
12-04
采用k近邻分类器对mnist数据集进行十分类。且里面包含mnist数据集。代码采用matlab编写，可以直接运行。
python kNN算法实现MNIST数据集分类 k值1-120
03-14
python kNN算法实现MNIST数据集分类 k值1-120
课程数据集_Kmeans_K._minist数据集_数据集_
10-01
初步实现K均值算法，并上穿minist数据集供参考
聚类算法之谱聚类
想当咸鱼的猫
10-28 4192
谱聚类 1. 基本原理 它的主要思想：把所有数据看成空间中的点，这些点之间可以用变连接起来，距离较远的两个点之间的边权重较低，而距离较近的两个点之间的权重较高，通过对所有数据点组成的图进行切图，让切图后的不同的子图间边权重和尽可能小（即距离远），而子图内的边权重和尽可能高（即距离近）。 难点： 如何构建图？ 如何切分图？ 2. 谱聚类基础 2.1 无向权重图 对于一个图GGG，我们一般用点集合V={v1,v2,....,vn}V=\{v_1,v_2,....,v_n\}V={v1​,v2​,....,.
基于聚类的“图像分割”案例——K-means聚类算法
ZhuNian的学习乐园
04-05 1万+
图像分割：利用图像的灰度、颜色、纹理、形状等特征，把图像分成若干个互不重叠的区域，并使这些特征在同一区域内呈现相似性，在不同的区域之间存在明显的差异性。然后就可以将分割的图像中具有独特性质的区域提取出来用于不同的研究。 1. 实例应用 1.1. 在机车检验领域，可以应用到轮毂裂纹图像的分割，及时发现裂纹，保证行车安全。 1.2. 在生物医学工程方面，对肝脏CT图像进行分割，为临床治疗和病理学研究提...
【数据聚类】谱聚类(Spectral Cluster)聚类算法附matlab代码
matlab_dingdang的博客
11-23 3104
谱聚类(Spectral Clustering, SC)是一种基于图论的聚类方法——将带权无向图划分为两个或两个以上的最优子图(sub-Graph)，使子图内部尽量相似，而子图间距离尽量距离较远，以达到常见的聚类的目的。对于图的相关定义如下：对于无向图G = (V,E)，V表示顶点集合，即样本集合，即一个顶点为一个样本；E表示边集合。设样本数为n，即顶点数为n。权重矩阵：W，为n*n的矩阵，其值wi,j为各边的权值，表示顶点 i，j（样本）之间的相似性。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值