ols残差_高级计量经济学学习要点（三）：OLS

我们的PhD level高级计量经济学I回归分析部分参考的教材是Hayashi (2001)^[1]。课堂上主要介绍了两个部分：OLS回归（finite sample下的OLS、large sample下的OLS），和IV方法。这篇文章将主要分享OLS、GLS、大样本下的OLS性质等相关内容。

---

最小二乘法

OLS的目标是，为了确定y和x的线性关系，需要找到一个估计量

，使得估计误差

最小。为了求解该式，我们使用矩阵求导的方法。一阶条件为：

由此可以推出beta的表达式：

1.若要让beta的估计值唯一，我们需要一些假设条件

• ，其中T是观测值数量，k是回归元数量。另外，X'X或X需要满秩k，即没有多重共线性。

一个不满足满秩的例子：

2.OLS估计有如下性质

• 。这其实可以从（2）式里的一阶条件直接得到。
• 。

3.拟合优度

估计拟合优度时，我们一般不使用误差的平方，以避免y的尺度对拟合优度的影响。相反，我们使用如下两种手段：

• uncentered R square

其中

。这就很好的将拟合优度限制在[0，1]之间。

• centered R square

值得注意的是，要让centered R方取值落在[0，1]之间，必须限定回归中含有constant。原因如下：

根据定义，有

。而如果回归中有constant，必有

，必有

。另外，

。

但两种R方有一个