多元统计分析笔记二——多元分布

最新推荐文章于 2024-01-17 12:01:01 发布

米法·

最新推荐文章于 2024-01-17 12:01:01 发布

阅读量2k

点赞数 2

分类专栏：概率论与数理统计文章标签：统计学

本文链接：https://blog.csdn.net/TSzero/article/details/118001837

版权

概率论与数理统计专栏收录该内容

23 篇文章 18 订阅

订阅专栏

一、Wishart分布

1.1 基本概念

Wishart分布是 $\chi^2$ 分布的多元情况，假设有随机变量 $\xi\sim N(0,\Sigma)\in\bm R^{p}$ ，有 $i i d$ 样本 $X_1,\cdots,X_n$ ，定义 $\bm X=(X_1,\cdots,X_n)^T\in\bm R^{n\times p}$ ，那么 $M=\bm X^T\bm X=\sum\limits_{i=1}^nX_iX_i^T\sim W_p(\Sigma, n)\tag1$
$n$ 为自由度。

1.2 性质

如果 $M\sim W_p(\Sigma, n)$ ，而且 $B\in\bm R^{p\times q}$ ，那么 $B^TMB\sim W_q(B^T\Sigma B, n)\tag2$
当 $B=\Sigma^{-\frac{1}{2}}$ 时， $\Sigma^{-\frac{1}{2}}M\Sigma^{-\frac{1}{2}}\sim W_p(I_p, n)$
如果 $M\sim W_p(\Sigma, n)$ ，那么 $E(M)=n\Sigma$
如果 $M_i\sim W_p(\Sigma, n_i),\quad i=1,\cdots,k$ ，且相互独立，那么 $M=\sum_{i=1}^kM_i\sim W_p(\Sigma, n)\tag3$
其中 $n=\sum\limits_{i=1}^kn_i$
如果 $\bm X\in\bm R^{n\times p}$ ，且 $X_i\sim N(0,\Sigma)$ ，对于对称矩阵 $C$ ，当且仅当 $C^2=C$ 时， $\bm X^TC\bm X\sim W(\Sigma, r)\tag4$
其中， $r = r a n k (C) = t r (C)$ ，由此可以得到 $nS=\bm X^T(I_n-\frac{1}{n}\bm1\bm1^T)\bm X\sim W_p(\Sigma, n-1)\tag5$
其中 $S$ 是样本协方差阵

二、Hotelling $T^2$ 分布

2.1 基本概念

对于 $X\in\bm R^p$ ，假设 $X\sim N(0, I_p)$ ， $M\sim W_p(I_p, n)$ ，那么 $X^TM^{-1}X\sim T^2(p, n)\tag6$

2.2 结论

如果 $X\sim N(\mu, \Sigma)$ ， $M\sim W_p(\Sigma, n)$ ，而且 $X$ 与 $M$ 相互独立，那么有 $n(X-\mu)^TM^{-1}(X-\mu)\sim T^2(p, n)\tag7$
结合 $nS\sim W_p(\Sigma, n-1)$ ， $\bar{\bm X}\sim N(\mu, \frac{1}{n}\Sigma)$ ，并且 $\bar{\bm X}$ 与 $S$ 相互独立，可知 $(n-1)(\bar{\bm X}-\mu)^TS^{-1}(\bar{\bm X}-\mu)\sim T^2(p, n-1)\tag8$
$T^2(p, n)=\frac{np}{n-p+1}F_{p,n-p+1}\tag9$

三、一个总体平均向量的检验

3.1 $\Sigma$ 已知

已知 $X_1,\cdots,X_n\sim N_p(\mu, \Sigma)$ ，令 $\bar{\bm X}=\sum\limits_{i=1}^nX_i$ ， $S=\frac{1}{n}\sum\limits_{i=1}^n(X_i-\bar{\bm X})(X_i-\bar{\bm X})^T$ ，对于检验 $H_0:\mu=\mu_0 \quad VS\quad H_1:\mu\ne\mu_0\tag{10}$
由于 $\Sigma$ 已知，所以可用 $T^2=n(\bar{\bm X}-\mu_0)^T\Sigma^{-1}(\bar{\bm X}-\mu_0)\sim\chi^2_p\tag{11}$
作为检验统计量

3.2 $\Sigma$ 未知

对于检验 $(10)$ ，当 $\Sigma$ 未知时，可用 $\frac{(n-1)-p+1}{(n-1)p}T^2\sim F_{p, n-p}\tag{12}$ 作为检验统计量，其中， $T^2=(n-1)(\bar{\bm X}-\mu_0)^TS^{-1}(\bar{\bm X}-\mu_0)$

四、两个总体平均向量的检验

4.1 协方差相等且已知

对于 $X_1,\cdots,X_n\sim N_p(\mu_1, \Sigma)$ ， $Y_1,\cdots,Y_m\sim N_p(\mu_2, \Sigma)$ ，所有样本都相互独立，而且 $m\gt p$ 。令 $\bar{\bm X}$ 和 $\bar{\bm Y}$ 表示均值， $S_X$ 和 $S_Y$ 表示对应的协方差，那么对于假设 $H_0: \mu_1=\mu_2\quad VS \quad H_1:\mu_1\ne\mu_2\tag{13}$
在 $(13)$ 的假设下， $\bar{\bm X}-\bar{\bm Y}\sim N(\bm0,\frac{n+m}{nm}\Sigma)$ ，进而可用 $T^2=\frac{nm}{n+m}(\bar{\bm X}-\bar{\bm Y})^T\Sigma^{-1}(\bar{\bm X}-\bar{\bm Y})\sim\chi^2_p\tag{14}$ 作为检验统计量

4.2 协方差相等但未知

在这种情况下，用 $S_X, S_Y$ 来估计协方差，易得 $nS_X+mS_Y\sim W_p(\Sigma, n+m-2)\tag{15}$
令 $S=(n+m)^{-1}(nS_X+mS_Y)$ ，则 $(n+m)S\sim W_p(\Sigma, n+m-2)$ ，另外， $S$ 与 $\bar{\bm X}-\bar{\bm Y}$ 相互独立，所以在 $(13)$ 的假设下， $\frac{nm(n+m-2)}{(n+m)^2}(\bar{\bm X}-\bar{\bm Y})^TS^{-1}(\bar{\bm X}-\bar{\bm Y})\sim T^2(p, n+m-2)\tag{16}$
进而有 $\frac{nm(n+m-p-1)}{p(n+m)^2}(\bar{\bm X}-\bar{\bm Y})^TS^{-1}(\bar{\bm X}-\bar{\bm Y})\sim F_{p, n+m-p-1}\tag{17}$

4.3 协方差不相等但已知

对于 $X_1,\cdots,X_n\sim N_p(\mu_1, \Sigma_1)$ ， $Y_1,\cdots,Y_m\sim N_p(\mu_2, \Sigma_2)$ ，所有样本都相互独立，而且 $m\gt p$ 。

在 $(13)$ 的假设下， $\bar{\bm X}-\bar{\bm Y}\sim N(\bm0,\frac{\Sigma_1}{n}+\frac{\Sigma_2}{m})$ ，进而可用 $T^2=(\bar{\bm X}-\bar{\bm Y})^T(\frac{\Sigma_1}{n}+\frac{\Sigma_2}{m})^{-1}(\bar{\bm X}-\bar{\bm Y})\sim\chi^2_p\tag{18}$ 作为检验统计量

4.3 协方差不相等且未知

4.3.1 $n = m$ 时

令 $Z_i=X_i-Y_i$ ，进而有 $\bar{\bm Z}=\bar{\bm X}-\bar{\bm Y}$ ， $S_Z$ 为相应的样本协方差，在 $(13)$ 的假设下， $\bar{\bm Z}\sim N(\bm0, \frac{\Sigma_1+\Sigma_2}{n})\tag{19}$
而且 $nS_Z\sim W_p(\Sigma_1+\Sigma_2, n-1)\tag{20}$
所以有 $(n-1)\bar{\bm Z}^T(S_Z)^{-1}\bar{\bm Z}\sim T^2(p, n-1)\tag{21}$
进而可用统计量 $\frac{n-p}{p}\bar{\bm Z}^T(S_Z)^{-1}\bar{\bm Z}\sim F_{p, n-p}\tag{22}$

4.3.2 $n\ne m$ 时

在这里插入图片描述

米法·

关注

2
点赞
踩
10

收藏

觉得还不错? 一键收藏
1
评论
多元统计分析笔记二——多元分布

一、Wishart分布1.1 基本概念Wishart分布是χ2\chi^2χ2分布的多元情况，假设有随机变量ξ∼N(0,Σ)∈Rp\xi\sim N(0,\Sigma)\in\bm R^{p}ξ∼N(0,Σ)∈Rp，有iidiidiid样本X1,⋯ ,XnX_1,\cdots,X_nX1,⋯,Xn，定义X=(X1,⋯ ,Xn)T∈Rn×p\bm X=(X_1,\cdots,X_n)^T\in\bm R^{n\times p}X=(X1,⋯,Xn)T∈Rn×p，那么M=XTX=∑i=1nXiXiT
复制链接

扫一扫