浅析特征抽取的经典算法PCA

之前格物汇的文章给大家介绍过，随着近几年大数据技术的普及，企业可以获取海量数据，但是这些海量数据带给我们更多信息的同时，也带来了更多的噪音和异常数据，如何降维去噪成为很多企业关注的焦点。而特征抽取和特征选择都是降维的重要方法，针对于the curse of dimensionality(维数灾难)，都可以达到降维的目的，但是这两种方法有所不同。

• 特征抽取（Feature Extraction)
  Creatting a subset ofnew features by combinations of the exsiting features.也就是说，特征抽取后的新特征是原来特征的一个映射。
• 特征选择（Feature Selection）
  choosing a subset of allthe features(the ones more informative。也就是说，特征选择后的特征是原来特征的一个子集。

特征抽取是如何对数据进行变换的呢？其两个经典的方法：主成分分析(Principle Components Analysis ,PCA)和线性评判分析（LinearDiscriminant Analysis,LDA）给出了解答，今天我们就先来看一下什么是主成分分析。

什么是主成分分析
主成分分析（principal component analysis），PCA是其缩写。此方法是一种无监督线性转换技术，其目标是找到数据中最主要的元素和结构，去除噪音和冗余，将原有的复杂数据降维，揭露出隐藏在复杂数据背后的简单结构。

主成分分析就是试图在力保数据信息丢失最少的原则下，对这种多变量的数据表进行最佳综合简化。这些综合指标就称为主成分,也