高维数据分析
文章目录
pHd
论文1 Marginal Coordinate Tests for Central Mean Subspace with Principal
Hessian Directions
做标准化
Z = Σ − 1 / 2 ( X − μ ) Z=\Sigma^{-1/2}(X-\mu) Z=Σ−1/2(X−μ)
标准化后, Σ = V a r ( X ) = I p , μ = E ( X ) = 0 , E ( Y ) = 0 \Sigma={\bf Var}(X)=I_p, \mu={\bf E}(X)=0, {\bf E}(Y)=0 Σ=Var(X)=Ip,μ=E(X)=0,E(Y)=0
经典的充分降维本质上来说是一个特征分解问题:
M β i = λ i β i M\beta_i=\lambda_i\beta_i Mβi=λiβi其中, M M M是一个对称核矩阵,根据降维方法不同有不同的表达式,满足特征值 λ 1 ≥ λ 2 ≥ ⋯ ≥ λ d > λ d + 1 = ⋯ = λ p = 0 \lambda_1\geq\lambda_2\geq\cdots\geq\lambda_d>\lambda_{d+1}=\cdots=\lambda_p=0 λ1≥λ2≥⋯≥λd>λd+1=⋯=λp=0
SIR 和 SAVE 的 M M M为 M S I R = V a r [ E ( Z ∣ Y ) ] M_{SIR}={\bf Var}[{\bf E}(Z|Y)] MSIR=Var[E(Z∣Y)] M S A V E = E [ I p − V a r ( Z ∣ Y ) ] M_{SAVE}={\bf E}[I_p-{\bf Var}(Z|Y)] MSAVE=E[Ip−Var(Z∣Y)]
有两种pHd,一种是基于响应的pHd,表示为y-pHd;另一种是基于残差的pHd,表示为r-pHd。核矩阵为:
M y − p H d = Σ y z z Σ y z z M_{y-pHd}=\Sigma_{yzz}\Sigma_{yzz} M