计量经济学学习与Stata应用笔记(四)大样本最小二乘法

使用大样本理论要求样本容量较大，一般至少$n\ge 30$，此时可以抛弃小样本理论中过强的假设。

随机收敛

确定性序列 { a n } n = 1 ∞ \{a_n\}_{n=1}^\infty { an​}n=1∞​收敛与常数$a$记作$\underset{n\to \infty }{\lim }{a}_n=a$
随机序列 { x n } n = 1 ∞ \{x_n\}_{n=1}^\infty { xn​}n=1∞​依概率收敛与常数$a$，记为$\mathrm{p}\underset{n\to \infty }{\lim }{a}_n=a$，或$x_n\stackrel{p}{⟶}a$，如果当$n$趋于正无穷时，有$\underset{n\to \infty }{\lim }P(|x_n-a|)>ϵ=0$
随机序列 { x n } n = 1 ∞ \{x_n\}_{n=1}^\infty { xn​}n=1∞​依概率收敛于随机变量$x$，记为$x_n\stackrel{p}{⟶}x$，如果随机序列 { x n − x } n = 1 ∞ \{x_n-x\}_{n=1}^\infty { xn​−x}n=1∞​
连续函数与依概率收敛可以交换次序
随机序列 { x n } n = 1 ∞ \{x_n\}_{n=1}^\infty { xn​}n=1∞​依均方收敛于常数$a$，如果$\underset{n\to \infty }{\lim }E(x_n)=a$，$\underset{n\to \infty }{\lim }Var(x_n)=0$
依均方收敛是依概率收敛的充要条件。
记随机序列 { x n } n = 1 ∞ \{x_n\}_{n=1}^\infty { xn​}n=1∞​与随机变量$x$的累积分布函数分别为$F_n$与$F$。如果对于任何实数$c$，均有$\underset{n\to \infty }{\lim }{F}_n(c)=F(c)$，则随机序列 { x n } n = 1 ∞ \{x_n\}_{n=1}^\infty { xn​}n=1∞​依分布收敛与随机变量$x$，记为$x_n\stackrel{d}{⟶}x$。
若$g$为连续函数，且$x_n\stackrel{d}{⟶}x$，则$g(x_n)\stackrel{d}{⟶}g(x)$

大数定律与中心极限定理

弱大数定律

样本无限大时，样本均值趋于总体均值，故名“大数定律”。

中心极限定理(CLT)

假设 { x n } n = 1 ∞ \{x_n\}_{n=1}^\infty { xn​}n=1∞​为独立同分布的随机序列，且$E(x_1)=\mu$，$Var(x_1)={\sigma }^2$存在，则$\sqrt{n}({\bar{x}}_n-\mu )\stackrel{d}{⟶}N(0,{\sigma }^2)$。
注意：${\bar{x}}_n-\mu$依概率收敛到0，且其收敛到0的速度与$1/\sqrt{n}$收敛到0的速度类似，这被称为“$\sqrt{n}$ 收敛”。
一维情况下，中心极限定理可以等价写为
$$\frac{{\bar{x}}_n-\mu }{\sqrt{{\sigma }^2/n}}\stackrel{d}{⟶}N(0,1)$$
多维情况下，$\sqrt{n}({\bar{x}}_n\text{xˉn}{\bar{x}}_n-\mu \text{μ}\mu )\stackrel{d}{⟶}N(0\text{0}0,\Sigma )$

统计量的大样本性质

均方误差MSE

以估计量$\hat{\beta }$来估计参数$\beta$，则均方误差
$$MSE(\hat{\beta })=E[(\hat{\beta }-\beta {)}^2]$$
定义偏差为
$$Bias(\hat{\beta })=E(\hat{\beta })-\beta$$
如果偏差为0，则估计量为无偏估计量。
均方误差可以分解为方差与偏差的平方和
$$MSE(\hat{\beta })=Var($$