协方差矩阵的定义
设一个随机向量为 x ∈ R N \mathbf{x} \in \mathbb{R}^\mathrm{N} x∈RN,其均值为 x ˉ \bar{\mathbf{x}} xˉ,则令 y = x − x ˉ \mathbf{y} = \mathbf{x} - \bar{\mathbf{x}} y=x−xˉ,则随机向量 x \mathbf{x} x的协方差定义为:
Σ x = [ σ ( x 1 , x 1 ) ⋯ σ ( x 1 , x N ) ⋮ ⋱ ⋮ σ ( x N , x 1 ) ⋯ σ ( x N , x N ) ] ∈ R N × N \Sigma_{\mathbf{x}} = \begin{bmatrix} \sigma(x_1,x_1) & \dotsb & \sigma(x_1,x_N) \\ \vdots & \ddots & \vdots \\ \sigma(x_N,x_1) & \dotsb & \sigma(x_N,x_N) \end{bmatrix} \in \mathbb{R}^{\mathrm{N} \times \mathrm{N}} Σx=⎣⎢⎡σ(x1,x