大数据作业三：降维PCA

最新推荐文章于 2023-04-09 20:47:00 发布
最新推荐文章于 2023-04-09 20:47:00 发布
阅读量1.1k 收藏 5
点赞数 1
分类专栏： R语言数据分析 文章标签： big data 大数据
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44180506/article/details/120973337
版权

文章目录

一、作业题目

work with the baseball data set

1）First, filter out all batters with fewer than 100 at bats. Next, standardize all the numerical variables using z-scores.

2）Now, suppose we are interested in estimating the number of home runs, based on the other numerical variables in the data set. So all the other numeric variables will be our predictors. perform PCA

3）How many components should be extracted according to a. The Eigenvalue Criterion? b. The Proportion of Variance Explained Criterion?

3）使用讲过的四种方法确定主成分数目

Use the wine_quality_training data set, available at the textbook web site, for the remaining exercises. The data consist of chemical data about some wines from Portugal. The target variable is quality. Remember to omit the target variable from the dimension-reduction analysis. Unless otherwise indicated, use only the white wines for the analysis

1). Standardize the predictors.

2). Construct a matrix plot of the predictors. Provide a table showing the correlation coefficients of each predictor with each other predictor.

3).apply PCA to the predictors, 使用讲过的四种方法确定主成分数目

baseball和wine
提取码：1234

二、棒球数据集处理

在对数据进行探索之前，要预处理，判断是否有缺失值是必须的：

baseball=read.csv("datasets/baseball.txt",stringsAsFactors=TRUE,sep='')
summary(baseball)
sum(complete.cases(baseball))

在这里插入图片描述
和数据的第一维度相同，故没有缺失值。可以放心做题了。

1.过滤和标准化

（1）实验代码

baseball$age=scale(baseball$age,center = TRUE, scale = TRUE)
baseball[,5:19]=scale(baseball[,5:19],center = TRUE, scale = TRUE)

（2）原理介绍

z-score方法如下：
在这里插入图片描述

（3）实验结果

在这里插入图片描述

（4）结果解释

可以看到上面的数值变量的均值都变成了0.

2.使用PCA

the number of home runs现在是我们的目标变量，其他数值变量都是我们的观测变量，使用PCA试试。

（1）实验代码

# 弄一个新的表
predictor=data.frame(age=baseball$age)
predictor[,2:7]=baseball[,5:10]
predictor[,8:15]=baseball[,12:19]
library(psych)
pca1 <- principal(predictor,nfactors=15,rotate="none", scores=TRUE) 
pca1$values
pca1$loadings

（2）实验原理

原理参考我的另一篇博文（如果有耐心看的话）
PCA学习

(3)实验结果

在这里插入图片描述

(4)结果解释

可以看到前6个主成分已经包含了92.4%的主要信息。原来的观测变量在每个新的主成分所做出的贡献可以在上面的表中看出，这个表其实就是Y=XP的P矩阵。

3.根据不同判据选取主成分

分别根据下列准则选出主成分：
a. 特征值判据：即拐点
b.主成分特征值累计百分比
c.特征值大于1的主成分
d.根据在各个PCA主成分中的贡献比例筛选原特征

若以a判据：
在这里插入图片描述如图所示，特征值在5以后基本就平坦了，也就是说取到第4个主成分就可以了。
若以b判据：
以90%为门限，那么根据之前各个特征值得累计比例，可以选择前六个主成分。
若以c判据：
只会选择前四个主成分。
若以d为判据：

loadings(pca1)[,1]^2+loadings(pca1)[,2]^2+loadings(pca1)[,3]^2+loadings(pca1)[,4]^2+
  loadings(pca1)[,5]^2

只选取前5个主成分，结果如下：
在这里插入图片描述以90%为门限时，保留：age,games,at_bats,runs,hits,RBIS,walks,bat_ave,on_base_pct

三、棒球数据集处理

换了一个数据集，葡萄酒质量数据集。
只是用白葡萄酒的数据。
先进行预处理：

wine=read.csv("datasets/Wine_Quality_Training_File",stringsAsFactors=TRUE,sep='')
head(wine)

在这里插入图片描述

  1. 可以看到很多观测变量是空值，所以我们没有必要留下他们。
  2. 我们要选用白葡萄酒.
  3. 体中不涉及目标变量，所以目标变量也不用保留

所以接下来的预处理：

wine=wine[,1:12]
wine=wine[which(wine$type=="white"),]

1.对观测变量进行标准化

（1）实验代码

wine[,2:12]=scale(wine[,2:12],center = TRUE, scale = TRUE)
summary(wine)

（2）原理分析

无

（3）实验结果

在这里插入图片描述

（4）结果解释

可以看到上面的数值变量的均值都变成了0.

2.查看各个观测变量之间的线性相关性

（1）实验代码

# 画散点图
pairs(wine[,2:12])
#算相关系数
cor(wine[,2:12])

（2）原理分析

在这里插入图片描述

（3）结果展示

在这里插入图片描述在这里插入图片描述

（4）结果解释

alcohol和以下特征相关较大：
acid
acid和以下特征相关较大：
sulfur，pH
fixed和以下特征相关较大：
pH

3.使用PCA根据四个判据选主成分

（1）实验代码

library(psych)
pca1 <- principal(wine[,2:12],nfactors=11,rotate="none", scores=TRUE)
pca1$values
pca1$loadings

plot(pca1$values,type = "b",main = "特征值")
loadings(pca1)[,1]^2+loadings(pca1)[,2]^2+loadings(pca1)[,3]^2+loadings(pca1)[,4]^2+
  loadings(pca1)[,5]^2

（2）原理分析

略

（3）实验结果

在这里插入图片描述

（4）结果解释

若以a判据：
在这里插入图片描述

如图所示，特征值在4以后基本就平坦了，也就是说取到第3个主成分就可以了。
若以b判据：
以90%为门限，那么根据之前各个特征值得累计比例，可以选择前8个主成分。
若以c判据：
只会选择前4个主成分。
若以d为判据：

loadings(pca1)[,1]^2+loadings(pca1)[,2]^2+loadings(pca1)[,3]^2+loadings(pca1)[,4]^2+
  loadings(pca1)[,5]^2

只选取前5个主成分，结果如下：
在这里插入图片描述

以70%为门限时，保留：alcohol,chlorides,acid,density,fixed,sulfur,dioxide ,pH

不想生产学术垃圾
关注
  • 1
    点赞
  • 踩
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
PCA_pca_
10-04
PCA主成分分析实现降维（数据，维数），包含data数据集
python如何在图例上加点_python – 添加图例到散点图(PCA)
weixin_39780260的博客
03-02 894
我是 python的新手,发现了这个优秀的PCA双标图建议( Plot PCA loadings and loading in biplot in sklearn (like R’s autoplot)).现在我尝试为不同的目标添加一个图例.但命令plt.legend()不起作用.有一个简单的方法吗？例如,虹膜数据带有来自上面链接的双标图代码.import numpy as npimport ma...
42 R 主成分分析PCA与因子分析EFA
THE ORDER
03-14 1635
# 相互独立的话，和的方差等于方差的和 # sig^2(X+Y)=sig^2(X)+sig^2(Y) # sig^2(2X)=4sig^2(X) # # E(X-E(X))=E(X)-E(X)=0 # D(X)=E(X-E(X)^2=E(X^2)-(EX)^2 # # Y=X-E(X) D(Y)=E(Y^2)-E(Y)^2 # # COV(X,Y)=E((X-E(X))(Y-E(Y)))=E(XY)-E(X)E(Y)=E(XY) # # COV(X,X)=D(X) library(openxlsx
偏最小二乘法 Partial Least Squares
热门推荐
FanJin的博客
06-24 6万+
本文前部分摘自：偏最小二乘法回归（Partial Least Squares Regression），后半部分原创。 诸如基因组学、转录组学、蛋白组学及代谢组学等高通量数据分析，由于自变量数目大于病例数（未知数大于方程个数），无法直接使用传统的统计分析模型。比如，线性回归的窘境：如果样例数m相比特征数n少（m<n）或者特征间线性相关时，由于（n*n矩阵）的秩小于特征个数（即不可逆）。因此最...
R: fivz_pca_biplot的异常问题
跳动的喵尾巴
04-20 6037
（一） 椭圆置信区间边框颜色显示的问题： 代码： fviz_pca_biplot(NR.pca, win.asp = 0.8, # Fill individuals by groups geom.ind = "point", fill.ind = data_NR$Label, # 个体的填充 col.ind = "black", #habillag
R语言plotly可视化：使用PCA算法进行数据降维、使用plotly可视化载荷(loading)、并使用标签表征每个载荷对应的原始特征(isualize loadings using shapes)
data+scenario+science+insight
02-11 566
R语言plotly可视化：使用PCA算法进行数据降维、使用plotly可视化载荷(loading)、并使用标签表征每个载荷对应的原始特征(isualize loadings using shapes and annotate with original features)
生信识图之 点图进阶-4 （PCA下篇）
m0_72870362的博客
10-02 2818
大Y老师小灶课堂之生信识图
PCA作图里面的箭头是干嘛用的？
xuzhougeng blog
09-16 2490
作图的目的是希望在图里面发现问题或者解释问题，当然更本质一点就是你想解决什么问题？ 前几天做了一个PCA的图，图是画出来了，但是问题有很多，比如说主成分是是啥意思，图里面的箭头有什么含义？为了不做无意义的重复，所以写一篇文章尝试做一个解释。 我们以R语言自带的数据集iris作为例子来演示。 data(iris) iris翻译成中文就是鸢(yuan， 第一声)尾花（如下图）, ...
SPSS--Friedman检验步骤
weixin_44549563的博客
09-26 1万+
一.Friedman检验原理 二.使用SPSS进行Friedman检验 步骤 操作 （1） 导入数据：以3X29维数据为例，即有三中对比数据，每个数据维29维 （2） 双击变量区域切换界面更改对比数据名称，改完名称后双击数字区域返回原始界面 （3） 数据检验，点击分析—非参数检验—旧对话框—K个相关样本 （4） 分别添加待检验数据到右侧数据框中，选择弗莱德曼，点击确定 （5） 数据生成 三.表格数据指
四、 主成分分析 PCA
coffee_cream的博客
09-17 1195
主成分分析（Principal Component Analysis, PCA）是最常用的一种降维方法。PCA 旨在找到数据中的主成分，并利用主成分表征原始数据，从而达到降维的目的。PCA是一种线性、非监督、全局的降维算法。 以一个二维数据集为例，(a) 是二维空间中经过中心化的一组数据，我们很容易看出主成分所在的轴（以下称为主轴）的大致方向，即 (b) 中黄线所处的轴。 1 原理分析 假设原数据点为 v1,v2,...,vn{v_1, v_2, ..., v_n}v1​,v2​,...,vn​，所有向量
机器学习编程作业降维PCA（主成分分析）.7z
06-05
机器学习编程作业降维PCA（主成分分析）.7z
pca降维PCA降维原理及操作介绍
04-11
介绍PCA的大体思想，先抛开一些原理公式，如上图所示，原来是三维的数据，通过分析找出两个主成分PC1和PC2，那么直接在这两个主成分的方向上就可以形成一个平面，这样就可以把我们三位的样本点投射到这一个平面上...
pca.rar_PCA降维 图像_pca降维_大数据_快速pca_数据降维
09-23
大数据降维方法，具体的处理了图像等，包括数据的冗余部分，利用PCA技术快速降维。
特征降维pca程序.zip
11-11
pca的基础程序，详细阐述了pca的用法和编写过程，有助于新接触者更好的理解pca的原理和步骤，利于完成特征降维的基础理解
EMBEDR：降维算法的统计评估
02-11
使用t-SNE，UMAP和PCA嵌入的小鼠组织进行的5037个单细胞RNA-seq测量结果的可视化，并使用由EMBEDR算法计算的p值进行着色。 快速入门用法 EMBEDR算法相对简单明了，但为了方便使用，我们将算法包装到一个对象中，以...
R统计绘图-PCA详解1(princomp/principal/prcomp/rda等)
qq_39859424的博客
02-23 1689
PCA分析之后我们会得到主成分、主成分特征根以及变量(特征)得分，那么这些分析结果是怎么得到的呢？以及它们各自代表什么意义呢？带着这些疑问，我们可以开始学习此章节。主成分其实是分析用变量的规范化线性组合。PC1是能够最大程度解释数据中的方差的特征线性组合。PC2是另一种特征线性组合，其在保持与PC1方向上垂直(PC1与PC2完全不相关)的情况下，最大程度解释数据中的方差。PCA分析最多可以构造与变量数相等的PC(要求样本/观测数必须大于变量数)。PC3…PCn都遵循这个规则。图1|二维空间主成分示意图。
机器学习之主成分分析建模
qq_45856698的博客
04-09 1663
本期介绍一种常见的非监督学习方法，即主成分分析。对于非监督学习，其数据中只含有特征变量x，而没有响应变量y。因此非监督学习的目标并非用x预测y，而是探索特征变量x本身的规律和模式。主成分分析是统计学中进行降维的经典方法，该降维的思想是将多个高度相关的特征变量转换为几个不存在线性关系的特征变量，转置后的变量称为主成分，每个主成分都是原始特征变量的线性组合，主成分可以反映原始数据的大部分信息，从而达到简化系统结构，抓住问题实质。一般特征变量个数太多或存在严重的多重共线性时，可以使用主成分分析对自变量进行处理，在
CCA分析图如何解读_如何解读 SIMCA 主成分分析（PCA）的结果？
weixin_39585070的博客
11-21 1万+
现在越来越多的同学在使用 SIMCA 软件来进行主成分分析了，这个软件的好处就是可视化界面方便，出图也还可以。但是也遇到很多同学不太理解得到的一些结果，所以这里我就以自己的一些经验和查询的资料来帮大家入个门吧！！ 主成分也许不是你想象中的那个主成分在最开始接触到主成分分析（Principal Component Analysis）的时候，我想很多同学都和我有一个疑问：主成分分析，到底...
5分钟内可视化解释PCA（主成分分析）
iqifenxia的博客
12-13 2190
　　尺寸超过3个时创建2D图表 　　 　　> Photo by Steve Johnson from Pexels 　　每个人都了解一个好的图表。 　　但是，我们如何显示4维以上的数据？ 　　一维可视化集群是小菜一碟。 　　 　　> Too easy 　　在二维中查找聚类很容易。 　　 　　> Easy 　　看到3维的星团……开始糟透了。 我们可以编辑节点大小或不透明度来区分第三维。 　　 　　> Not so easy 　　5维？ 忘..
：编写PCA降维程序并进行实例运算要求：自己寻找一组数据集，然后采用PCA方法进行降维处理，降维后的维度为2维，然后利用matplotlib库画出降维后的散点图。
最新发布
05-26
好的，我可以为您提供一个Python实现的PCA降维程序。请注意，这个程序是针对二维数据集的，如果您想要处理更高维度的数据集，需要进行一些修改。 首先，我们需要导入必要的库：numpy、matplotlib和sklearn。 ```python import numpy as np import matplotlib.pyplot as plt from sklearn.decomposition import PCA ``` 然后，我们需要准备一个二维数据集。这里我随机生成了一个包含100个样本的二维数据集。 ```python # 随机生成一个二维数据集 X = np.random.rand(100, 2) ``` 接下来，我们需要将数据集进行标准化，即将每个特征的均值都变为0，方差都变为1。这是为了避免在PCA过程中某些特征占据了不合理的比例。 ```python # 标准化数据集 X -= np.mean(X, axis=0) X /= np.std(X, axis=0) ``` 然后，我们可以使用sklearn库中的PCA类进行降维。我们将目标维度设置为2，然后调用fit_transform方法来对数据集进行降维。 ```python # 进行PCA降维 pca = PCA(n_components=2) X_pca = pca.fit_transform(X) ``` 最后，我们可以使用matplotlib库来绘制降维后的散点图。 ```python # 绘制降维后的散点图 plt.scatter(X_pca[:, 0], X_pca[:, 1]) plt.xlabel('PCA Component 1') plt.ylabel('PCA Component 2') plt.show() ``` 完整的程序如下： ```python import numpy as np import matplotlib.pyplot as plt from sklearn.decomposition import PCA # 随机生成一个二维数据集 X = np.random.rand(100, 2) # 标准化数据集 X -= np.mean(X, axis=0) X /= np.std(X, axis=0) # 进行PCA降维 pca = PCA(n_components=2) X_pca = pca.fit_transform(X) # 绘制降维后的散点图 plt.scatter(X_pca[:, 0], X_pca[:, 1]) plt.xlabel('PCA Component 1') plt.ylabel('PCA Component 2') plt.show() ``` 运行程序后，您将看到一个降维后的散点图。如果您想要尝试不同的数据集，只需要将随机生成的数据集替换为您自己的数据即可。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值