本文介绍了主成分分析（PCA）的概念，重点在于最大投影方差的角度选择。通过样本均值和协方差矩阵来理解PCA如何找到使样本点投影后分布最分散的方向，即主成分。PCA的目标是最大化投影方差并最小化重构距离，这两者在实践中是等价的。文章还涉及到中心化处理和拉格朗日乘子法在求解最大方差方向中的应用。
接上一节：
数据
x i ∈ R p , i = 1 , 2 , … , N x_i\in \mathbb{R^p}, i=1,2,\dots,N xi∈Rp,i=1,2,…,N
D a t a : X = ( x 1 , x 2 , … , x N ) N × p T = ( x 1 T x 2 T ⋮ x N T ) = ( x 11 x 12 … x 1 p x 21 x 22 … x 2 p ⋮ x N 1 x N 2 … x N p ) N × p Data: X=(x_1,x_2,\dots,x_N)^T_{N\times p}= \begin{pmatrix} x_1^T\\ x_2^T\\ \vdots\\ x_N^T \end{pmatrix}= \begin{pmatrix} x_{11} & x_{12} & \dots & x_{1p}\\ x_{21} & x_{22} & \dots & x_{2p}\\ \vdots \\ x_{N1} & x_{N2} & \dots & x_{Np} \end{pmatrix}_{N\times p} Data:X=(x1,x2,…,xN)N×pT=⎝⎜⎜⎜⎛x1Tx2T⋮xNT⎠⎟⎟⎟⎞=⎝⎜⎜⎜⎛x11x21⋮xN1x12x22xN2………x1px2pxNp⎠⎟⎟⎟⎞N×p
结论
样本均值(Sample Mean)： X ‾ p × 1 = 1 N ∑ i = 1 N x i = 1 N X T 1 N \overline{X}_{p\times1}=\dfrac{1}{N}\sum_{i=1}^{N}x_i=\dfrac{1}{N}X^T1_N X
最低0.47元/天 解锁文章
扫一扫
719
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
