深度解析K-L变换 及其 在特征识别中的应用

1.K-L变换定义、意义

 K-L变换也常称为主成分变换(PCA)，是一种基于图像统计特性的变换，它的协方差矩阵除对角线以外的元素都是零(所以大家也叫它最佳变换)，消除了数据之间的相关性，从而在信息压缩方面起着重要作用。

在模式识别和图像处理中一个主要的问题就是降维，在实 际的模式识别问题中，我们选择的特征经常彼此相关，在识别这些特征时，数量很多，大部分都是无用的。如果我们能减少特征的数量，即减少特征空间的维数，那么我们将以更少的存储和计算复杂度获得更好的准确性。

如何寻找一种合理的综合性方法，使得：
1.减少特征量的个数。
2.尽量不损失或者稍损失原特征中所包含的信息。
3.使得原本相关的特征转化为彼此不相关（用相关系数阵衡量）。
K-L变换即主成分分析就可以简化大维数的数据集合。它还可以用于许多图像的处理应用中，例如：压缩、分类、特征选择等。

2.K-L变换的原理

K-L变换的目的是寻找任意统计分布的数据集合主要分量的子集。基向量满足相互正交性。使得原始数据集合变换到主分量空间，使单一数据样本的互相关性(cross-correlation)降低到最低点。

例：