学习pca的一点小小感悟

最近学习了一点有关图像方面的知识，今天主要学习了一些有关于PCA的相关知识

以下只是本人的一点记录与感悟吧：

首先我们了解一下什么是PCA，PCA即principle components analysis主成分分析。

主成分分析即所谓的特征量的提取。

那么为什么要进行主要特征量提取呢，在我们分析图像的时候，就是对图像的一些

特征量进行分析，一副图像会包含许多的特征量，一般情况下，我们可能认为特征量

提取越多，我们对图像分析就越全面，分析越好。可是其实不然，分析特征量太多是

不好的，有时候在识别图像时我们只需要某些特征量，其他的多余特征量就会产生干

扰。提取的特征量过多可能会造成所谓的“维度灾难”。所以我们要采取PCA的方法。

那么PCA的具体方法又是如何呢？

其实在pca的具体方法中涉及许多高数，线代等方面的知识，比如拉格朗日乘数，矩阵

的转置，二范数的知识，基座标变换，求偏导数之类的，希望大家学之前能自己去具体

了解一下。

其实pca的本质就是一种降维处理

比如我们给出n个d维的样本x1，x2，x3。。。xn，我们将这些样本进行pca处理，降至

k维，求出样本均值u和一组正交基向量（c1，c2，。。。，ck）来最优表示给定的样本。

何为最优表示？就是根据正交基向量与u值所得出的投影向量与原来样本差值的平方和是

最小的。根据这个原则，通过一些数学运算就可以求出特征值与特征向量，pca处理其实

就是把原来的样本投影到（c1，c2，。。。，ck）所代表的k维上去，得到的特征值与特

征向量就有k个，就可以通过他们来分析识别图像了。

大家具体想学习的话可以看看这本书《数字图象处理与机器视觉》-人民邮电出版社。