Karhunen-Loève（KL）变换

KLT（Karhunen-Loève Transform）是建立在统计特性基础上的一种变换，有的文献也将KLT称为霍特林（Hotelling）变换（霍特林在1933年最先给出将离散信号变换成一串不相关系数的方法）。

1. 定义

以矢量信号X的协方差矩阵Ф的归一化正交特征矢量q所构成的正交矩阵Q，来对该矢量信号X做正交变换Y=QX
，则称此变换为K-L变换（K-LT或KLT）。其中。

2. KLT是最优正交变换

2.1 KLT可以将信号完全解关联

设Y的平均值为mY，协方差矩阵为ΣY，通过KL变换得，则：

矩阵形式：

KL变换实现了协方差矩阵ΣY的对角化，当i≠j时，任意Yi和Yj的协方差σij=0，即Y的各个分量互不相关，实现了信号完全解相关。这样可以去掉那些带有较少信息的分量，以达到降低特征维数的目的。

2.2 可以最大限度的压缩信号能量。

KLT会对信号的能量重新分配，实现能量集中。对N维矢量信号进行K-L变换后，最大的方差会集中在前M个低次分量之中（M

3. KLT缺点

1.计算矩阵的特征值和本征向量缺乏统一的快速算法，计算复杂。
2.对于两类问题容易得到较满意结果，类别越多，效果越差。
3.需要通过足够多的样本估计样本集的协方差矩阵或其他类型的散布矩阵。当样本数不足时，矩阵的估计会变得十分粗略，变换的优越性也就不能充分的显示出来。