PCA步骤:
1、去除平均值
2、计算协方差矩阵
3、计算协方差矩阵的特征值和特征向量
4、将特征值从大到小排序
5、保留最上面的N个特征向量
6、将数据转换到上述N个特征向量构建的新空间中
方法1:
scikit-learn中的主成分分析(PCA)的使用
1、函数原型及参数说明
class sklearn.decomposition.PCA(n_components=None, copy=True, whiten=False)
参数说明:
意义:PCA算法中所要保留的主成分个数n,也即保留下来的特征个数n类型:int 或者 string,缺省时默认为None,所有成分被保留。赋值为int,比如n_components=1,将把原始数据降到一个维度。赋值为string,比如n_components='mle',将自动选取特征个数n,使得满足所要求的方差百分比。
copy:
类型:bool,True或者False,缺省时默认为True。意义:表示是否在运行算法时,将原始训练数据复制一份。
若为True,则运行PCA算法后,原始训练数据的值不会有任何改变,因为是在原始数据的副本上进行运算;
若为False,则运行PCA算法后,原始训练数据的值会改,因为是在原始数据上进行降维计算。
whiten:
类型:bool,缺省时默认为False
意义:白化,使得每个特征具有相同的方差。关于“白化”,可参考:Ufldl教程
2、PCA的对象
components_ :返回具有最大方差的成分。explained_variance_ratio_:返回 所保留的n个成分各自的方差百分比。n_components_:返回所保留的成分个数n。mean_:noise_variance_:
3、PCA对象的方法
fit(X,y=None)
fit()可以说是scikit-learn中通用的方法,每个需要训练的算法都会有fit()方法,它其实就是算法中的“训练”这一步骤。因为PCA是无监督学习算法,此处y自然等于None。fit(X),表示用数据X来训练PCA模型。函数返回值:调用fit方法的对象本身。比如pca.fit(X),表示用X对pca这个对象进行训练。
用X来训练PCA模型,同时返回降维后的数据。newX=pca.fit_transform(X),newX就是降维后的数据。
inverse_transform()
将降维后的数据转换成原始数据,X=pca.inverse_transform(newX)
transform(X)
将数据X转换成降维后的数据。当模型训练好后,对于新输入的数据,都可以用transform方法来降维。
4、举例
以一组二维的数据data为例,data如下,一共12个样本(x,y),其实就是分布在直线y=x上的点,并且聚集在x=1、2、3、4上,各3个。
>>> data array([[ 1. , 1. ], [ 0.9 , 0.95], [ 1.01, 1.03], [ 2. , 2. ], [ 2.03, 2.06], [ 1.98, 1.89], [ 3. , 3. ], [ 3.03, 3.05], [ 2.89, 3.1 ], [ 4. , 4. ], [ 4.06, 4.02], [ 3.97, 4.01]])
data这组数据,有两个特征,因为两个特征是近似相等的,所以用一个特征就能表示了,即可以降到一维。下面就来看看怎么用sklearn中的PCA算法包。
(1)n_components设置为1,copy默认为True,可以看到原始数据data并未改变,newData是一维的。
>>> from sklearn.decomposition import PCA >>> pca=PCA(n_components=1) >>> newData=pca.fit_transform(data) >>> newData array([[-2.12015916], [-2.22617682], [-2.09185561], [-0.70594692], [-0.64227841], [-0.79795758], [ 0.70826533], [ 0.76485312], [ 0.70139695], [ 2.12247757], [ 2.17900746], [ 2.10837406]]) >>> data array([[ 1. , 1. ], [ 0.9 , 0.95], [ 1.01, 1.03], [ 2. , 2. ], [ 2.03, 2.06], [ 1.98, 1.89], [ 3. , 3. ], [ 3.03, 3.05], [ 2.89, 3.1 ], [ 4. , 4. ], [ 4.06, 4.02], [ 3.97, 4.01]])
(2)将copy设置为False,原始数据data将发生改变。
>>> pca=PCA(n_components=1,copy=False) >>> newData=pca.fit_transform(data) >>> data array([[-1.48916667, -1.50916667], [-1.58916667, -1.55916667], [-1.47916667, -1.47916667], [-0.48916667, -0.50916667], [-0.45916667, -0.44916667], [-0.50916667, -0.61916667], [ 0.51083333, 0.49083333], [ 0.54083333, 0.54083333], [ 0.40083333, 0.59083333], [ 1.51083333, 1.49083333], [ 1.57083333, 1.51083333], [ 1.48083333, 1.50083333]])
(3)n_components设置为'mle',看看效果,自动降到了1维。
>>> pca=PCA(n_components='mle') >>> newData=pca.fit_transform(data) >>> newData array([[-2.12015916], [-2.22617682], [-2.09185561], [-0.70594692], [-0.64227841], [-0.79795758], [ 0.70826533], [ 0.76485312], [ 0.70139695], [ 2.12247757], [ 2.17900746], [ 2.10837406]])
(4)对象的属性值
>>> pca.n_components 1 >>> pca.explained_variance_ratio_ array([ 0.99910873]) >>> pca.explained_variance_ array([ 2.55427003]) >>> pca.get_params <bound method PCA.get_params of PCA(copy=True, n_components=1, whiten=False)>
我们所训练的pca对象的n_components值为1,即保留1个特征,该特征的方差为2.55427003,占所有特征的方差百分比为0.99910873,意味着几乎保留了所有的信息。get_params返回各个参数的值。
(5)对象的方法
>>> newA=pca.transform(A)
对新的数据A,用已训练好的pca模型进行降维。
(6)设置参数
>>> pca.set_params(copy=False)
PCA(copy=False, n_components=1, whiten=False)
设置参数。
参考:
scikit-learn官网样例:http://scikit-learn.org/stable/modules/generated/sklearn.decomposition.PCA.html#sklearn.decomposition.PCA
博文:http://blog.csdn.net/u012162613/article/details/42192293
方法二:自己写代码
#-*- coding:utf-8 -*-
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
#计算均值,要求输入数据为numpy的矩阵格式,行表示样本数,列表示特征
def meanX(dataX):
return np.mean(dataX,axis=0)#axis=0表示按照列来求均值,如果输入list,则axis=1
def pca(XMat, k):
average = meanX(XMat)
m, n = np.shape(XMat)
data_adjust = []
avgs = np.tile(average, (m, 1))
data_adjust = XMat - avgs
covX = np.cov(data_adjust.T) #计算协方差矩阵
featValue, featVec= np.linalg.eig(covX) #求解协方差矩阵的特征值和特征向量
index = np.argsort(-featValue) #按照featValue进行从大到小排序
finalData = []
if k > n:
print "k must lower than feature number"
return
else:
#注意特征向量时列向量,而numpy的二维矩阵(数组)a[m][n]中,a[1]表示第1行值
selectVec = np.matrix(featVec.T[index[:k]]) #所以这里需要进行转置
finalData = data_adjust * selectVec.T
reconData = (finalData * selectVec) + average
return finalData, reconData
def loaddata(datafile):
return np.array(pd.read_csv(datafile,sep="\t",header=-1)).astype(np.float)
def plotBestFit(data1, data2):
dataArr1 = np.array(data1)
dataArr2 = np.array(data2)
m = np.shape(dataArr1)[0]
axis_x1 = []
axis_y1 = []
axis_x2 = []
axis_y2 = []
for i in range(m):
axis_x1.append(dataArr1[i,0])
axis_y1.append(dataArr1[i,1])
axis_x2.append(dataArr2[i,0])
axis_y2.append(dataArr2[i,1])
fig = plt.figure()
ax = fig.add_subplot(111)
ax.scatter(axis_x1, axis_y1, s=50, c='red', marker='s')
ax.scatter(axis_x2, axis_y2, s=50, c='blue')
plt.xlabel('x1'); plt.ylabel('x2');
plt.savefig("outfile.png")
plt.show()
#根据数据集data.txt
def main():
datafile = "data.txt"
XMat = loaddata(datafile)
k = 2
return pca(XMat, k)
if __name__ == "__main__":
finalData, reconMat = main()
plotBestFit(finalData, reconMat)
数据下载:https://github.com/csuldw/MachineLearning/blob/master/PCA/data.txt