多元回归

多元回归

多元线性回归模型的基本假定

为了方便地进行模型的参数估计，我们对以下回归方程式有如下假定：

$$\hat{Y}=X\beta +\epsilon$$

1. 解释变量$x_1,x_2,\cdots ,x_p$ 是确定性变量，不是随机变量，且要求$rank(X)=p+1<n$。这里的$rank(X)=p+1<n$，表明设计矩阵$X$中的自变量列之间不相关，样本量的个数应该大于解释变量的个数，$X$是以满秩矩阵。
2. 随机误差项具有零均值等方差，即

$$\{\begin{array}{l}E({\epsilon }_i)=0，i=1,2,\cdots ,n\\ cov({\epsilon }_i,{\epsilon }_j)=\{\begin{array}{ll}{\sigma }^2,& i=j\\ 0,& i̸=j\end{array},i,j=1,2,\cdots ,n\end{array}$$
这个假定常称为Gauss-Markov条件。$E({\epsilon }_i)=0$，即假设观察值没有系统误差，随机误差项