Karhunen-Loeve Transform (KLT)
source:http://fourier.eng.hmc.edu/e161/lectures/klt/node3.html
是与协方差矩阵
与第k 个特征值
一致的特征向量,有:
或以矩阵的形式:
协方差矩阵是对称矩阵,有 (若
是复数则共轭对称),他的特征向量
是正交的,有:
<!-- [endif]-->
我们可以构造 正交(酉)矩阵
:
满足:
以上N 个特征方程可能联合表达为:
矩阵形式为:
是一个对角矩阵
。两边左乘
,协方差矩阵
则对角化为:
向量 ,定义
的正交(若
为复数则为酉)K-L 变换为:
转换向量的第i 行 是
到
的映射:
在 两边同乘
,我们得到逆变换:
我们看到,通过转换,通过N 个特征向量
),向量
扩展为N 维空间的基向量。