我们首先来看看瑞利商的定义。瑞利商是指这样的函数
R
(
A
,
x
)
R(A,x)
R(A,x):
R
(
A
,
x
)
=
x
H
A
x
x
H
x
R(A,x )=\frac{x^HAx}{x^Hx}
R(A,x)=xHxxHAx
其中 x x x为非零向量,而 A A A为n×n的Hermitan矩阵。所谓的Hermitan矩阵就是满足共轭转置矩阵和自己相等的矩阵,即 A H = A A^H=A AH=A。如果我们的矩阵A是实矩阵,则满足 A T = A A^T=A AT=A的矩阵即为Hermitan矩阵。
瑞利商
R
(
A
,
x
)
R(A,x)
R(A,x)有一个非常重要的性质,即它的最大值等于矩阵
A
A
A最大的特征值,而最小值等于矩阵
A
A
A的最小的特征值,也就是满足:
λ
m
i
n
≤
x
H
A
x
x
H
x
≤
λ
m
a
x
λmin ≤\frac{x^HAx}{x^Hx} ≤λmax
λmin≤xHxxHAx≤λmax
具体的证明这里就不给出了。当向量
x
x
x是标准正交基时,即满足
x
H
x
=
1
x^Hx=1
xHx=1时,瑞利商退化为:
R
(
A
,
x
)
=
x
H
A
x
R(A,x)=x^HAx
R(A,x)=xHAx,这个形式在谱聚类和PCA中都有出现。
以上就是瑞利商的内容,现在我们再看看广义瑞利商。广义瑞利商是指这样的函数
R
(
A
,
B
,
x
)
R(A,B,x)
R(A,B,x) :
R
(
A
,
x
)
=
x
H
A
x
x
H
B
x
R(A,x)=\frac{x^HAx}{x^HBx}
R(A,x)=xHBxxHAx
其中
x
x
x为非零向量,而
A
,
B
A,B
A,B为n×n的Hermitan矩阵。B为正定矩阵。它的最大值和最小值是什么呢?其实我们只要通过将其通过标准化就可以转化为瑞利商的格式。我们令
x
=
B
−
1
2
x
′
x=B^{−\frac{1}{2}} x ′
x=B−21x′,则分母转化为:
x
H
B
x
=
x
′
H
(
B
−
1
2
)
H
B
B
−
1
2
x
′
=
x
′
H
B
−
1
2
B
B
−
1
2
x
′
=
x
′
H
x
′
x^HBx=x ′^H (B^{−\frac{1}{2}})^H BB^{−\frac{1}{2}}x′ =x ′^HB^{−\frac{1}{2}} BB ^{−\frac{1}{2}} x ′ =x′^Hx′
xHBx=x′H(B−21)HBB−21x′=x′HB−21BB−21x′=x′Hx′
而分子转化为:
x
H
A
x
=
x
′
H
B
−
1
2
A
B
−
1
2
x
′
x^HAx=x′^HB^{−\frac{1}{2}}AB^{−\frac{1}{2}}x′
xHAx=x′HB−21AB−21x′
此时我们的
R
(
A
,
B
,
x
)
R(A,B,x)
R(A,B,x)转化为
R
(
A
,
B
,
x
′
)
R(A,B,x ′)
R(A,B,x′) :
R
(
A
,
B
,
x
′
)
=
x
′
H
B
−
1
2
A
B
−
1
2
x
′
x
′
H
x
′
R(A,B,x ′ )=\frac{x′^HB^{−\frac{1}{2}} AB^{−\frac{1}{2}}x′}{x′^Hx′}
R(A,B,x′)=x′Hx′x′HB−21AB−21x′
利用前面的瑞利商的性质,我们可以很快的知道, R ( A , B , x ′ ) R(A,B,x ′ ) R(A,B,x′)的最大值为矩阵 B − 1 2 A B − 1 2 B^{−\frac{1}{2}} AB^{−\frac{1}{2}} B−21AB−21 的最大特征值,或者说矩阵 B − 1 A B^{−1}A B−1A的最大特征值,而最小值为矩阵 B − 1 A B^{−1}A B−1A的最小特征值。即对矩阵进行标准化。