深入解析标准化在降维中的应用

大家好，我是稀饭。今天给大家分享一下标准化在降维中的应用，内容源于毕业论文中的一部分研究拓展。

对于标准化，相信大家已经不陌生了，一组数据中的某个数，减掉它所在的这组数据的均值，再除以这组数据的标准差，就可以得到对应的标准化分数，也叫z分数。z分数可以回答这样一个问题：“一个给定分数距离平均数多少个标准差”。在平均数之上的分数会得到一个正的标准分数，在平均数之下的分数会得到一个负的标准分数。z分数是一种可以看出某分数在分布中相对位置的方法。

---

---

在降维过程中，标准化也非常重要，很多降维算法的前提要求就是数据进行标准化，去除量纲的影响，从而更好地完成降维的过程。以PCA（主成分分析）为例，PCA可以将原来高维的数据投影到某个低维的空间上并使得其方差尽量大。如果数据其中某一特征（矩阵的某一列）的数值特别大，那么它在整个误差计算的比重上就很大，那么可以想象在投影到低维空间之后，为了使低秩分解逼近原数据，整个投影会去努力逼近最大的那一个特征，而忽略数值比较小的特征。因为在建模前我们并不知道每个特征的重要性，这很可能导致了大量的信息缺失。为了“公平”起见，防止过分捕捉某些数值大的特征，我们会对每个特征先进行标准化处理，使得它们的大小都在相同的范围内，然后再进行PCA。

还是以PCA为例，我们来看一下标准化后的数据和未标准化后的数据的降维结果对比。