（二）Statistical Inference Course Notes

overview

• 统计推断就是从样本中得到关于总体的结论
• 目标是将数据得到的结论推广到总体
• 两大推断模式：频率和贝叶斯
• 统计量：数据的一个样本计算出的数字，用来推断总体的信息
• 随机变量

概率

度量一个事情发生可能性

一般性的定律

1 . 次可列可加性
2 . 单调性
3 . 独立随机变量的交的概率等于概率的乘积
4 . 条件概率

$$P(A\:|\:B) = \frac{P(A \:\cap\: B)}{P(B)}$$
5 . 贝叶斯定律 $$P(B\:|\:A) = \frac{P(A\:|\:B)P(B)}{P(A\:|\:B)P(B)+P(A\:|\:B^c)P(B^c)}$$

随机变量

• 连续随机变量 （掷硬币）
• 离散随机变量（智商）
  rbinom(),rnorm(),rgamma(),rpois(),runif()
• PMF 对离散随机变量而言
• PDF 对连续随机变量而言dnorm.dgamma,dpois
• CDF 积累分布函数$F(x) = P(X \le x)$pbinom,pnorm
• 生存函数$s(x)=p(X>x)=1-F(x)$
• 分位数$F(x_\alpha)=\alpha$
  qnorm,qbinom,qgamma
• 独立性 $$P(A\:\cap\:B) = P(A)P(B)$$
  $$P([X \in A]\cap[Y \in B]) = P(X \in A)P(Y \in B)$$
• IID独立同分布随机变量

Diagnostic Test

D 表示样本确实有病，$D^c$表示没病
+表示检验出来有病，-表示检验出来没病
1 . sensitivity =p(+|D)
2 . specificity=P(-|$D^c$)
3 . positive predictive value=P(D|+)
4 . negative predictive value=P($D^C$|-)
5 . prevalence of disease =P(D)

似然比

$$DLR_+ = \frac{sensitivity}{1-specificity} = \frac{P(+\:|\:D)}{P(+\:|\:D^c)}$$
$$DLR_- = \frac{1 - sensitivity}{specificity} = \frac{P(-\:|\:D)}{P(-\:|\:D^c)}$$

矩

• 期望
  
  • $E[X] = \sum_{x} xp(x)$
  • 线性
  • 总体期望
  • 样本期望
  • 随机变量的均值
• 方差
  
  • $Var(X) = E[(X-\mu)^2] = E[X^2] - E[X]^2$
  • 标准差
  • 样本方差$S^2 = \frac{\sum_{i=1} (X_i - \bar X)^2}{n-1}$
• 标准误SE
  

正态分布

poisson分布

渐进性质

当样本量n-> $\infty$时，统计量的变化

• 大数定律
• 中心极限定理（n>30） $$\frac{\mbox{Estimate} - \mbox{Mean of Estimate}}{\mbox{Std. Err. of Estimate}} = \frac{\bar X_n - \mu}{\sigma / \sqrt{n}}=\frac{\sqrt n (\bar X_n - \mu)}{\sigma} \longrightarrow N(0, 1)$$

假设检验

power功效

多重检验