6.16 Rayleigh商

定义

  矩阵在某个向量处的瑞利商Rayleigh quotient是这样定义的:
$$\rho (x):=\frac{x^{H}Ax}{x^{H}x}$$
  这个怎么理解呢?上面是埃尔米特内积的表达式，下面是标准埃尔米特内积。但是矩阵不一定是对称阵，如果不是复数的话，分子是一个双线性型的表达式。
  从另一个角度讲，瑞利商是一个线性函数，也可以看做是一个多元函数。以二维空间为例子，以下矩阵的瑞丽商：
$$A=\left(\begin{array}{cc}1& 1\\ 0& 1\end{array}\right)$$
  那么它的瑞丽商就是一个连续函数，不过$x_1,x_2$不能同时为0：
$$\rho (\mathbf{x})=\frac{x_1^2+x_1{x}_2+x_2^2}{x_1^2+x_2^2}$$
  假设只作用在单位向量上，那么就可以定义$x_1=\cos \theta ,x_2=\sin \theta$,所以它的瑞丽商就是：
$$\begin{gathered} \rho (\mathbf{x})=\frac{{\cos }^2\theta +\cos \theta \sin \theta +{\sin }^2\theta }{{\cos }^2\theta +{\sin }^2\theta } \\ =1+\cos \theta \sin \theta \end{gathered}$$
  这个矩阵在单位向量上的瑞丽商图像如下图所示（xy平面构成单位圆，z轴是瑞丽商）：

单位化

  以上的研究方式还是不好理解瑞丽商，其实可以把上述公式改写：
$$\begin{gathered} \rho (x):=\frac{x^{H}Ax}{x^{H}x}=(\frac{\mathbf{x}}{\parallel x\parallel },\frac{A\mathbf{x}}{\parallel x\parallel }) \\ =(\frac{\mathbf{x}}{\parallel x\parallel },A\frac{\mathbf{x}}{\parallel x\parallel }) \end{gathered}$$
  把$\mathbf{x}$单位化后的变量叫$\mathbf{u}$，那么瑞丽商其实就是这样的:
$$\rho (x):=(\mathbf{u},A\mathbf{u})$$
  所以本质上，瑞丽商就是单位向量和变换后的单位向量的内积。那么还以刚才的矩阵为例子，可以继续绘制瑞丽商的图形。其实就算出来还是$1+\cos \theta \sin \theta$.

埃尔米特阵的瑞丽商

  埃尔米特阵的瑞丽商有特别的性质，最大值和最小值分别是最大特征值和最小特征值。在最小特征值的特征向量处得到最小值，同样，在最大特征值的特征向量处得到最大值。也就是：
$${\lambda }_1=\min \rho (\mathbf{x}),{\lambda }_n=\max \rho (\mathbf{x})$$

代码

  瑞丽商的定义这么简单，计算它的代码也就十分简洁了：

    # 瑞丽商
    def rayleigh_quotient(self, vector):
        v = Matrix([vector])
        v_h = v.hermitian_transpose()
        numerator = (v_h * self * v).__vectors[0][0]
        denominator = (v_h * v).__vectors[0][0]
        return numerator / denominator

物理意义

  Rayleigh 商的物理意义是一个向量在 $A$ 矩阵作用下的“拉伸程度”，也就是说，它表示特征向量在 $A$ 矩阵的变换下，与自身在空间中的位置关系。同时，Rayleigh 商还有很多应用，如在数学物理中，它可以用来描述薛定谔方程的能量本征值。