最近在学习LDA,公式推导中很重要的部分就是瑞利商和广义瑞利商。
# 瑞利商定义
瑞利商函数是指这样的函数 ( , )
$$R(A,x) = \cfrac{X^{H}Ax}{X^{H}x}$$
其中 为$ × $的Hermitan矩阵。Hermitan矩阵,就是满足**共轭转置矩阵**和自己相等的矩阵,$A^{H}= $。$X^{H}$是$X$的共轭转置矩阵。
> **共轭转置矩阵**
矩阵有实数矩阵和复数矩阵。
转置矩阵仅仅是将矩阵的行与列对换
**共轭转置矩阵在将行与列对换后还要讲每个元素共轭一下**。
共轭就是将形如a+bi的数变成a-bi,实数的共轭是它本身。
所以,实数矩阵的共轭转置矩阵就是转置矩阵,复数矩阵的共轭转置矩阵就是上面所说的行列互换后每个元素取共轭
## 瑞利商的性质
瑞利商 ( , )有一个非常重要的性质,即它的最大值等于矩阵 最大的特征值,而最小值等于矩阵 的最小的特征值,也就是满足
$$\lambda_{min} \leq \cfrac{X^{H}Ax}{X^{H}x} \leq \lambda_{max}$$
当向量 是标准正交基时,即满足$X^{H}x=1$时,瑞利商退化为:$ ( , )=X^{H}Ax$,这个形式在谱聚类和PCA中都有出现。
# 广义瑞利商
广义瑞利商是指这样的函数$ ( , , )$:
$$R(A,B,x) = \cfrac{X^{H}Ax}{X^{H}Bx}$$
其中 为非零向量,而 , 为$ × $的Hermitan矩阵。 为**正定矩阵**。
> **