问题（一）

OLS回归问题

1、对以下式子的证明不理解：

${\hat{\beta }}_1={\beta }_1+\frac{{\sum }_{i=1}^n(x_i-\overline{x})u_i}{SS{T}_x}={\beta }_1+\frac{1}{SS{T}_x}{\sum }_{i=1}^n{d}_i{u}_i$

证明：
${\hat{\beta }}_1=\frac{{\sum }_{i=1}^n(x_i-\overline{x})y_i}{{\sum }_{i=1}^n(x_i-\overline{x}{)}^2}(1)$

将$y_i={\beta }_0+{\beta }_i{x}_i+u_i$代入，分子变为

${\sum }_{i=1}^n(x_i-\overline{x}){\beta }_0+{\sum }_{i=1}^n(x_i-\overline{x}){\beta }_1{x}_i+{\sum }_{i=1}^n(x_i-\overline{x})u_i(2)$

既然${\sum }_{i=1}^n(x_i-\overline{x})=0$，
那么${\sum }_{i=1}^n(x_i-\overline{x}){\beta }_1{x}_i={\sum }_{i=1}^n(x_i-\overline{x}{)}^2{\beta }_1$

前面的(2)式就可以约掉很多项，代到（1）式中，变成

${\hat{\beta }}_1={\beta }_1+\frac{{\sum }_{i=1}^n(x_i-\overline{x})u_i}{SS{T}_x}={\beta }_1+\frac{1}{SS{T}_x}{\sum }_{i=1}^n{d}_i{u}_i$

• 我的问题是既然${\sum }_{i=1}^n(x_i-\overline{x})=0$，为什么（2）式没有直接等于0？
• 答： (2)式中只有第一项等于零，后面两项都不等于零，所以消掉的只是第一项。

2、如何证明
对于${\beta }_1,$

$Var({\hat{\beta }}_1)=\frac{\sigma }{SS{T}_x}$

即${\beta }_1$是一个常数，

$Var({\hat{\beta }}_1)=(\frac{1}{SS{T}_x}{)}^{2}Var({\sum }_{i=1}^n{d}_i{u}_i)=(\frac{1}{SS{T}_x}{)}^2({\sum }_{i=1}^n{d}_i^2{\sigma }^2)=\frac{{\sigma }^2}{SS{T}_x}$

但是以下${\beta }_0$的公式不知道如何解释

$Var({\hat{\beta }}_0)=\frac{{\sigma }^2}{SS{T}_x}\times n^{-1}{\sum }_{i=1}^n{x}_i^2$

$其中d_i=(x_i-\overline{x}),SS{T}_x={\sum }_{i=1}^n(x_i-\overline{x}{)}^2$

• 如何证明$Var({\hat{\beta }}_0)$的式子？
  
  （ps：弄这道前先弄第11题以及第12题。）

3、为什么$Cov(u_i,\overline{u})=\frac{1}{n}Var(u_i)$？

• —
  

4、为什么$Var({\sum }_{i=1}^n{d}_i{u}_i)=SS{T}_x\times {\sigma }^2，其中d_i=x_i-\overline{x}$

• -
  因为di是非随机的，所以di和求和符号都可以提出来，提出来要加上平方，就变成了SSTx。而ui的方差一直都是 ${\sigma }^2$ 。我想问这里“非随机的”，是什么意思？
  答：非随机的意思是，把只含有x的项看做常数，也就是认为只含有x的项是给定的，不是随机变量。

$5、同方差假设在什么时候用？$

• -
  同方差假设的提出是为了得到OLS估计量的方差，所以只要需要用到OLS估计量的方差的情况，都要假定同方差假设是成立的。

$6、课后习题中有一道题，$
${\tilde{\beta }}_1={\beta }_0({\sum }_{i=1}^n{x}_i)/({\sum }_{i=1}^n{x}_i^2)+{\beta }_1+({\sum }_{i=1}^n{x}_i{u}_i)/({\sum }_{i=1}^n{x}_i^2)$

说$Var({\tilde{\beta }}_1)=({\sum }_{i=1}^n{x}_i^2{)}^{-2}Var({\sum }_{i=1}^n{x}_i{u}_i)={\sigma }^2/({\sum }_{i=1}^n{x}_i^2{)}^{-2}$

我想问为什么方差公式中只保留了有$u_i$的这一项？

• -
  
  7、课本中${\beta }_1$有两个公式，

${\hat{\beta }}_1=\frac{{\sum }_{i=1}^n(x_i-\overline{x})(y_i-\overline{y})}{{\sum }_{i=1}^n(x_i-\overline{x})}$

${\hat{\beta }}_1=\frac{{\sum }_{i=1}^n(x_i-\overline{x})y_i}{{\sum }_{i=1}^n(x_i-\overline{x})}$

为什么可以这样变动？

• -
  

8、$Cov({\hat{\beta }}_1-{\beta }_1,\overline{u})=E[({\hat{\beta }}_1-{\beta }_1)\overline{u}]$是怎么算的？

• -
  
  9、为什么$Var(\overline{u})=\frac{1}{n}{\sigma }^2$？
• -
  
  

10、为什么$E(u_i\overline{u})=E(\frac{u_i^2}{n})=\frac{\sigma }{n}$？

• -
  

11、对于OLS回归：
${\hat{\beta }}_0=\overline{y}-\hat{\beta }\overline{x}$

$\overline{y}={\beta }_0+{\beta }_1\overline{x}+\overline{u}$

则${\hat{\beta }}_0-({\beta }_0+{\beta }_1\overline{x}+\overline{u})-{\hat{\beta }}_1\overline{x}={\beta }_0+\overline{u}-({\hat{\beta }}_1-{\beta }_1)\overline{x}$

$Var({\hat{\beta }}_0)$

$=Var(\overline{u})+Var({\hat{\beta }}_1){\overline{x}}^2$

$={\sigma }^2/n+({\sigma }^2/SS{T}_x){\overline{x}}^2$

$={\sigma }^2/n+{\sigma }^2{\overline{x}}^2/SS{T}_x$

我想问的是这里为什么${\beta }_0以及{\beta }_1不用管，而\overline{u}要管$？

本来觉得${\beta }_0、{\beta }_1$是总体中的真值，是常数所以计算方差的时候不要考虑进去。
但是 $\overline{u}$ 也是常数。

• -
  

12、还是一个计算问题，为什么以下式子成立？
$SS{T}_x/n=n^{-1}{\sum }_{i=1}^n{x}_i^2-(\overline{x}{)}^2$

这个式子解释清楚了就可以解答第二题：

$Var({\tilde{\beta }}_0)$

$={\sigma }^2[(SS{T}_x/n)+{\overline{x}}^2)/SS{T}_x$

$={\sigma }^2[(n^{-1}{\sum }_{i=1}^n{x}_i^2-\overline{x})+{\overline{x}}^2)/SS{T}_x$

$=\frac{{\sigma }^2}{SS{T}_x}\times n^{-1}{\sum }_{i=1}^n{x}_i^2$

(这个我回去拿书就放上去）