【最新数理统计复习笔记】

第一章 概率论基础

第二章 统计基础

• 常用抽样分布: ${\chi }^2,T,F$
  1. ${\chi }_{1-\alpha }^2=-{\chi }_{\alpha }^2,T_{1=\alpha }=-T_{\alpha }$
  2. $F_{1-\alpha }(n,m)=\frac{1}{F_{\alpha }(n,m)}=F_{\alpha }(m,n)$
• 正态总体的抽样分布
  1. $\overline{X}\sim N(\mu ,\frac{{\sigma }^2}{n})$
  2. $\frac{\overline{X}-\mu }{S/\sqrt{n}}\sim t(n-1)$
  3. $\frac{(n-1)S^2}{{\sigma }^2}\sim {\chi }^2(n-1)$
• 次序统计量
  1. 单个
  2. 多个
• 充分统计量（利用因子分解定理求）$f(x,\theta )=g(t,\theta )h(x)$ 参考知乎讲解
  1. 求联合密度函数
  2. 因子分解：
     1. 与 $x$ 和 $\theta$都有有关的放第一项
     2. 只与 $x$ 有关的放第二项
     3. 第一项里找出只与 $x$ 有关部分为 $T$

第三章 点估计及其优良性

• 点估计
  • 矩估计 —— $E(X^i)=\sum X_j^i$
  • 极大似然估计
    1. 求似然函数 $L(\theta )=\prod p(x_i;\theta )$ —— 目标最大化似然函数
    2. 求 $lnL(\theta )$
    3. 求导为$0\to$ 解得 $\theta$
  • 极大似然估计特殊情况$\theta 的取值范围与X有关$
    1. $如\theta <X\to \theta <X_{(0)}$
• 点估计优良性
  1. 无偏性：$E(\hat{\theta })=\theta$
  2. 有效性：（判断估计是否有效）判断$Var(\theta )?=CR下界$
     1. 计算方差 $Var(\hat{\theta })$
     2. 计算$C-R$ 下界$\frac{1}{nI(\theta )}$
        1. 费希尔信息量: $I(\theta )=E[d(lnp(X;\theta )/d\theta {)}^2]$
        2. 或者 $I(\theta )=-E[\frac{d^{2}lnp(X;\theta )}{d{\theta }^2}]$
     3. 判断 $Var(\hat{\theta })=1/nI(\theta )$

第五章 区间估计与假设检验

• 枢轴变量法 区间估计
  1. 先求出$\theta$的点估计$\hat{\theta }$
  2. 通过 $\hat{\theta }$构造枢轴函数 $G(\hat{\theta },\theta )$
     • $G$中除了$\theta$外不含其他未知参数
  3. $P(a<G(\hat{\theta },\theta )<b)>=1-\alpha$
     • $a,b$ 可通过查表获得
• 假设检验
  1. 提出假设 $H_0,H_1$
     • 通常假设 $H_0$ 为总体参数 $\theta =xxx$
  2. 确定检验统计量
  3. 通过拒绝域判断原假设是否成立

第六章 回归分析

• $S{S}_T=S{S}_R+S{S}_E$
  1. 离差平方和 $S{S}_T=\sum y_i^2-n(\overline{y}{)}^2=l_{yy}$
  2. 回归平方和 $S{S}_R=\sum ({\hat{y}}_i-\overline{y}{)}^2={\hat{\beta }}_1^2{l}_{xx}$
  3. 残差平方和 $S{S}_E=\sum (y_i-{\hat{y}}_i{)}^2=S{S}_T-S{S}_R$
• 简单线性回归（最小二乘法, 极大似然估计）$y={\beta }_0+{\beta }_{1}x+\sigma$
  • ${\hat{\beta }}_0=\overline{y}-{\hat{\beta }}_1\overline{x}$
  • ${\hat{\beta }}_1=l_{xy}/l_{xx}$
    1. $l_{xy}=\sum x_i^2-n\overline{x}\overline{y}$
    2. $l_{xx}=\sum x_i^2-n(\overline{x}{)}^2$
  • $\hat{\sigma }=\frac{SSE}{n-2}$
• 参数的估计，$\beta_0, \beta_1 $的置信区间和假设检验
  1. ${\hat{\beta }}_1\sim N({\beta }_1,\frac{{\sigma }^2}{l_{xx}})$
  2. ${\hat{\beta }}_0\sim N({\beta }_0,(\frac{1}{n}+\frac{{\overline{x}}^2}{l_{xx}}){\sigma }^2)$
  3. $\frac{(n-2){\hat{\sigma }}^2}{{\sigma }^2}=\frac{SSe}{{\sigma }^2}\sim X^2(n-2)$
  4. ${\beta }_1=0时,\frac{SSr}{{\sigma }^2}=\frac{{\beta }_1^2{l}_{xx}}{{\sigma }^2}\sim X^2(1)$
  5. $\frac{S{S}_R/(1)}{S{S}_E/(n-2)}\sim F(1,n-2)$
• 回归方程的显著性检验 ～ 检验${\beta }_1$是否为0
  1. $H_0:{\beta }_1=0,H_1:{\beta }_1!=0$
  2. $\frac{S{S}_e}{{\sigma }^2}=\frac{(n-2){\hat{\sigma }}^2}{{\sigma }^2}\sim {\chi }^2(n-2)$
  3. $\frac{S{S}_r}{{\sigma }^2}\sim {\chi }^2(1)$
• $F$检验
  1. 提出 $H_0:{\beta }_1=0,H_1:{\beta }_1!=0$
  2. 检验统计量 $F=\frac{S{S}_r/1}{S{S}_e/(n-2)}\sim F(1,n-2)$
  3. 代入数据求$ F$， 查表求 $F_{\alpha }(1,n-2)$
  4. 比较大小，若 $F$ 大则拒绝 $H_0$, 效果显著
• $T$检验
• 点预测和区间预测
  1. 点预测直接带入 ${\hat{y}}_0={\hat{\beta }}_0+{\hat{\beta }}_1{x}_0$
  2. 区间预测 : 直接用 $y_0\sim N({\hat{y}}_0,{\hat{\sigma }}^2)$
  3. $y_0\to {\hat{y}}_0\pm z_{\alpha /a}\hat{\sigma }$
• 控制
• 样本相关系数 $r_{xy}=\frac{l_{xy}}{\sqrt{l_{xx}{l}_{xy}}}$
• $Cov({\hat{\beta }}_0,{\hat{\beta }}_1)=Cov(\bar{y}-{\hat{\beta }}_1\bar{x},{\hat{\beta }}_1)=-\bar{x}Var({\hat{\beta }}_1)$
• 注：
  1. 区间预测
     1. $y_0\sim N({\beta }_0+{\beta }_1{x}_0,{\sigma }^2)$
     2. ${\hat{y}}_0\sim N({\beta }_0+{\beta }_1{x}_0,(\frac{1}{n}+\frac{(x_0-\bar{x}{)}^2}{l_{xx}}){\sigma }^2$
     3. $y_0-{\hat{y}}_0\sim N(0,(1+\frac{1}{n}+\frac{(x_0-\bar{x}{)}^2}{l_{xx}}){\sigma }^2)$
     4. $\frac{(n-2){\hat{\sigma }}^2}{{\sigma }^2}=\frac{S{S}_E}{{\sigma }^2}\sim {\chi }^2(n-2)$