PCA+SVM

简介：主成分分析 （ Principal Component Analysis ， PCA ）或者主元分析。是一种掌握事物主要矛盾的统计分析方法，它可以从多元事物中解析出主要影响因素，揭示事物的本质，简化复杂的问题。计算主成分的目的是将高维数据投影到较低维空间。

对于银行后台存储的大量数据进行分析，并不一件易事，由于每个人的信息属性众多，辨别起来颇为费力，我们可以利用PCA降维的功能把决定每个人的最重要的一些属性从众多的属性之中挑选出来作为基本指标建立模型，这个过程完全是通过机器学习的方法来挑选，避免人为主观因素的影响，最后结构比较科学可靠。

下面是本算法的主要过程描述：

首先将数据库里面整理好的数据导出为一个矩阵，然后按照同意和拒绝分为两类加上标签，用0代表拒绝，1代表同意（这一步会在后面的模型训练中用到）。

然后先降维，利用princomp函数将导出的矩阵作为输入，由于数据每个属性大小差别颇大，我们会利用协方差进行相应的处理，这一步不会对后面的结果有影响，只是对数值进行处理，便于后面的降维操作。princomp函数会输出4个参数其中latent是协方差矩阵的特征值，coef是输入矩阵所对应的协方差矩阵的所有特征向量组成的矩阵，即变换矩阵，我们利用latent取出coef前约90%的主成分与输入矩阵相乘所得到的的新的矩阵就是我们想要矩阵，这个过程也将原来的维数降低，同时将原有的坐标转换到新的坐标下。

再训练模型，首先我们将上面得到的新的数据和开始的时候提到的标签，利用交叉检验的原理，平均分成五分，将其中四份用作训练，一份作为测试交叉检验。训练主要利用svmtrain函数将上面得到四份数据作为输入，可以得到一个模型model。这个就是我们所要训练的模型。

最后利用svmpredict函数将测试数据和相应的标签作为输出，得出最后的准确率。