【LDA】为什么 w^T Σ w 代表类内散度？

为什么 $w^T\Sigma w$ 代表类内散度？

在 LDA 的推导里，说 $w^T\Sigma w$ 代表了类内散度，但是为什么呢？

画图观察

import numpy as np
import pandas as pd
import matplotlib.pyplot as plt

S = np.array([[1,0],
              [0,1]])
              
mu = np.array([0,0])

s3 = np.random.multivariate_normal(mu,S,500) # generate 1000 samples from the distribution

# plot the scatter
plt.figure(figsize=(10,10))

plt.scatter(s3[:,0],s3[:,1])
# set xlim and ylim
plt.xlim(-10,10)
plt.ylim(-10,10)

# add grid
plt.grid(True)

# display the scatter matrix in latex in title
plt.title(str(S[0,0])+' '+str(S[0,1])+'\n'+str(S[1,0])+' '+str(S[1,1]),fontsize=20)

结论

$\Sigma =\left[\begin{array}{cc}{\sigma }_{11}& {\sigma }_{12}\\ {\sigma }_{21}& {\sigma }_{22}\end{array}\right]$
$w^T\Sigma w={\sigma }_{11}{w}_1^2+{\sigma }_{12}{w}_1{w}_2+{\sigma }_{21}{w}_1{w}_2+{\sigma }_{22}{w}_2^2$
怎么样可以让散度减小呢？观察展开式，其实就是让协方差矩阵的这几个数都尽量小即可。