机器学习：PCA（实例：MNIST数据集）

最新推荐文章于 2024-09-07 12:39:07 发布

ab1213456

最新推荐文章于 2024-09-07 12:39:07 发布

阅读量4.2k

点赞数 1

文章标签：人工智能 matlab r语言

原文链接：http://www.cnblogs.com/volcao/p/9257578.html

版权

本文通过实例介绍了如何使用PCA对MNIST数据集进行降维处理。在未降维的情况下，kNN算法的识别准确率为0.9688，而经过PCA降维保留90%信息后，识别准确率提高到0.9728，同时预测时间显著缩短。PCA降维不仅减少了数据维度，还可能消除数据噪声，提升识别准确率。

摘要由CSDN通过智能技术生成

一、数据

获取数据

import numpy as np
from sklearn.datasets import fetch_mldata

mnist = fetch_mldata("MNIST original")

sklearn 的 datasets 中，一个特有的方法：fetch_mldata，使用此方法可以直接从一个官方网站中下载各种机器学习数据；
格式：datas = fetch_mldata("字符串")；

查看数据
```
mnist
# 输出：
```

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

ab1213456

关注关注

1
点赞
踩
24

收藏

觉得还不错? 一键收藏
0
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫

Kaggle:使用MNIST数据集进行PCA降维和LDA降维

cape的博客

01-25

1万+

关于PCA（主成分分析，Principal components analysis）,这里有非常通俗易懂的文章解释：主成份分析(PCA)最详细和全面的诠释，这里就不多啰嗦了，下面主要介绍PCA算法和LDA算法在MNIST数据集上的应用。主要参考的是Kaggle上的一篇Kernel，也可以直接去看这篇Kernel，这里附上链接：Interactive Intro to Dimensionali

Bobo老师机器学习笔记第七课-使用PCA对MNIST数据集进行降噪

夜深人静后的码农

11-08

3515

问题1：什么是MNIST数据集？ MNIST 数据集来自美国国家标准与技术研究所, National Institute of Standards and Technology (NIST). 训练集 (training set) 由来自 250 个不同人手写的数字构成, 其中 50% 是高中学生, 50% 来自人口普查局 (the Census Bureau) 的工作人员. 测试集(tes...

参与评论您还未登录，请先登录后发表或查看评论

【sklearn】对MNIST数据集进行PCA降维与重构，可视化对比

qq_46105528的博客

11-30

2297

对MNIST数据集进行PCA降维与重构，可视化对比

数学建模笔记—— 主成分分析（PCA)

最新发布

lbm666666的博客

09-07

2435

主成分分析是对于原先提出的所有变量,将重复的变量(关系紧密的变量)删去多余,建立尽可能少的新变量,使得这些新变量是两两不相关的,且这些新变量在反映课题的信息方面尽可能保持原有的信息。因此,人们会很自然地想到,能否在相关分析的基础上,用较少的新变量代替原来较多的旧变量,而且使这些较少的新变量尽可能多地保留原来变量所反映的信息?我们可以把多种指标中综合成几个少数的综合指标,做为分类的型号,将十几项指标综合成3项指标,一项是反映长度的指标,一项是反映胖瘦的指标,一项是反映特殊体型的指标。怎么找到新的维度呢?

【机器学习】PCA原理解释及其在MNIST上的应用

weixin_42182906的博客

12-20

1536

预备知识：什么是协方差：https://blog.csdn.net/GoodShot/article/details/79940438 什么是协方差矩阵：https://baike.baidu.com/item/%E5%8D%8F%E6%96%B9%E5%B7%AE%E7%9F%A9%E9%98%B5/9822183?fr=aladdin tf.svd： https://www.jian...

Python：将MNIST数据PCA降维到87维，并另存为arff格式

DeniuHe的博客

11-29

581

import numpy as np import copy import pandas as pd from sklearn import datasets from sklearn.decomposition import PCA from sklearn.preprocessing import StandardScaler MNIST = datasets.fetch_mldata('...

自主实现PCA和SVM对MNIST数据集进行多分类 1. 利用PCA进行降维 2. 利用SVM进行多分类

04-02

自主实现PCA和SVM对MNIST数据集进行多分类 1. 利用PCA进行降维 2. 利用SVM进行多分类要求： 1. python编写 2. PCA及SMO算法自行实现 3. 程序注意可读性，添加必要注释

python机器学习之降维算法PCA对手写数字数据集的降维案例

sjjsaaaa的博客

12-02

1946

PCA对手写数字数据集的降维案例 数据集获取地址:->这里下载导入需要的模块和库 from sklearn.decomposition import PCA from sklearn.ensemble import RandomForestClassifier as RFC from sklearn.model_selection import cross_val_score import matplotlib.pyplot as plt import pandas as pd import num

mnist数据集的手写数字识别

08-03

MNIST数据集是机器学习领域一个经典的图像识别问题，主要用于训练和测试手写数字识别算法。这个数据集包含60,000个训练样本和10,000个测试样本，每个样本都是28x28像素的灰度图像，对应0到9的手写数字。 **描述解析...

使用mnist数据集_使用MNIST数据集上的t分布随机邻居嵌入（t-SNE）进行降维

weixin_26752765的博客

09-04

1293

使用mnist数据集It is easy for us to visualize two or three dimensional data, but once it goes beyond three dimensions, it becomes much harder to see what high dimensional data looks like. 对我们来说，可视化二维或三维数据很...

用PCA,LDA,KNN对MNIST数据集分类（Python）

waitingwinter的博客

06-11

4405

主成分分析对于高维空间中xxx, 我们寻求线性变换， y=WTx,where x∈Rn,W∈Rm×d,y∈Rd,d<m.y=W^Tx,\quad where \; x\in \mathbb{R}^n,W\in \mathbb{R}^{m\times d},y\in\mathbb{R}^d,d<m.y=WTx,wherex∈Rn,W∈Rm×d,y∈Rd,d<m. 我们采用可重构性观点，即样本到此超平面的距离都足够近。\ 假设投影变换是正交变换，设样本点 xix_ixi 在新坐标系下的

pca-fashion-mnist:在Google Colab上编写和运行的iPython笔记本，用于在Fashion MNIST数据集上进行决策树和PCA

04-13

pca-fashion-mnist 在Google Colab上编写并运行的一个iPython笔记本，用于在Fashion MNIST数据集上进行决策树和PCA。本笔记本旨在证明在执行分类算法之前进行数据缩放和PCA可以大大降低我们的数据维数，从而最终加快了训练过程，但又不损失很多信息。作为基准模型，我们在Fashion MNIST模型上训练了决策树模型-在66秒内达到了78％的准确度。如果我们在训练决策树模型之前对数据进行比例缩放并使用90％的解释方差进行PCA，它仍然可以达到76％的准确度，但是在45秒内，我们减少了82％的特征列数。免责声明：这不是解决Fashion-Mnist数据集的最佳方法，因为使用卷积神经网络可以轻松使我们的准确度高于90％。

机器学习——minist数据集分类python实现

09-10

机器学习——minist数据集分类python实现，亲测有效。

PCA降维_PCA数据降维_PCA手写体降维_主成分分析_MNIST降维_

10-01

使用子空间方法中的PCA主成分分析方法对mnist数据集手写体数据进行降维。

SVM算法对MNIST数据集分类

12-24

代码使用matlab编写，压缩包中包含MNIST数据集及其读取函数、SVM算法实现和ReadMe.txt。 SVM算法中使用了PCA降维处理数据减少运行时间，但是由于使用的SMO算法较为原始，运行速度仍然较慢。由于实现未经过任何优化，仅适合初学者使用，使用高斯核正确率在75%以上，有部分注释。请结合ReadMe文件使用。

SVM实现MNIST数据集分类

01-19

本代码为matlab实现的支持向量机模式识别算法，对MNIST数据集进行三种样本分类，如果电脑内存够大，可以实现更多的类别分类，另外exclass是对随机的两个样本分类，也可以参考，exmuticlassall为对MNIST数据集分类，注释掉的代码也可以实现随即三样本分类并作图。

全面理解主成分分析（PCA）和MNIST数据集的Python降维实现

bwqiang的博客

01-11

6056

转载一篇文章主成分分析线性判别分析 foundations of machine learning 中的问题需要再次撰写降维之前：降维之后：

PCA 重建 Fashion_mnist 数据集

靡不有初鲜克有终

03-03

940

import tensorflow as tf from tensorflow import keras import numpy as np from sklearn.decomposition import PCA import matplotlib.pyplot as plt from PIL import Image 读取数据 (x_train, y_train), (x_test, y...

利用Python对数据进行PCA降维

chaosjey的博客

12-14

4217

PCA算法原理各本书中都有，具体推导也不用放了，就简单说一下步骤：对变量进行标准化操作；计算协方差矩阵；求协方差矩阵特征值与特征向量；将特征值从大到小排序，选择做大的前k个特征值对应的特征向量；将原始数据乘这k个特征向量，将其转化到对应的k维空间中。例1：对Iris数据集进行pca降维。 iris莺尾花数据集导入后为(150, 5)的矩阵，共5类数据，每类150个样本。分别为’Sepal.Length’, ‘Sepal.Width’, ‘Petal.Length’, ‘Petal.Widt

机器学习：PCA（实例：MNIST数据集）

一、数据

获取数据

查看数据