统计学习：基本常用公式（1）

统计学习

最近在处理数据的时候发现自己对统计理论的掌握还有所欠缺，因此开始了这趟补习之路，提高自己的数据处理能力，增强自己的基础，写下这份帖子，作为学习成果的检验，以及方便后来的同学。

经典正态线性回归模型（CNLRM）

$y=\beta_1 x +\beta_0$
$\hat \beta_1= \beta_1 +\frac{\quad\sum{(x_i-\overline x)}\epsilon_i}{\quad\sum{(x_i-\overline x)^2}}$

基本假设

中心极限定理，$\hat \beta_1$近似服从正态分布，抽样随机关键假定 $y_i=\beta_0 +\beta_1 X_i +\epsilon_i$ 式真实模型，当然我们并不知道各参数的真实值是多少。

基本检验

普通最小二乘法假设检验：
统计检验分为两类：1方程的显著性（模型正确与否）2变量显著性（参数是否不为0）

基本假设公式：

1正态分布：
假设$Z 服从 N(\mu,\sigma^2)$
则Z的概率密度$f(x)=\frac{1}{\sigma \sqrt(2\pi)}*e^-\frac{(x-\mu)^2}{2\sigma^2} -\infty \le x \le \infty$

2 $\chi ^2$分布
如果随机变量$Z_1,Z_2,\cdots,Z_n 都是独立同分布于 N(0,1)$=>
$U=Z_1^2 \pm Z_2^2 \pm \cdots \pm Z_n^2$服从$\chi^2(n)$分布
3$t$分布 ：
如果$Z服从N(0,1) U服从 \chi^2(n)分布$，且U，Z是独立的，则
我们可以推出：

=>$t=\frac{Z}{\sqrt(\frac{U}{n})}$服从t分布
4$F$分布：
$U服从 \chi^2(m),V服从\chi^2(n)$,U,V,独立
=>$F=\frac{\frac{U}{m}}{\frac{V}{n}}$服从F（m，n分布）。

5$X_1,\cdots,X_2,\cdots X_n$服从 $N（\mu,\sigma^2$,
$S^2=\frac{1}{n-1} \quad\sum X_i^2$
=> $\frac{(n-1)s^2}{\sigma ^2} 服从 \chi^2(n-1)$
6正态分布的线性组合，依旧服从正态分布。

额外说明

假设检验中必须对$\epsilon_i$的概率分布做出假定的。
假设误差项服从正态分布的合理性在于，误差项是由很多因素构成的，当这些因素是独立同分布时，依照中心极限定理，那么这些之和应该近似服从正态分布。除少数情形如Cachy分布为，随着变量个数增加，假设都满足。