多元模型的交互作用与共线性

1. 实际上，共线性的存在是可以看作是无限接近于违背多元模型中自变量线性可加这个假设，也就是说，违背了自变量之间独立性。建立多元线性模型，就给定了自变量,$X=x_{1}+x_{2}+x_{3}+....x_{n}$,这样的线性关系。
   如果两个变量存在高度相关，比如相关系数大于0.9，那么，就是自变量$x_{i}\approx \lambda x_{j}$，我们说的存在共线性时，无法分离出自变量变量对因变量的共线性是怎么一回事呢？
2. 假如$Y=\beta _{0}+\beta _{1}x_{1}+\beta _{2}x_{2}+\epsilon$ 这个二元回归方程说，$x_{1}$增加一个单位，那么，在$x_{2}$不变的前提下$Y$平均增加 $\beta _{1}$个单位。
   交互作用是： $$Y=\beta _{0}+\beta _{1}x_{1}+\beta _{2}x_{2}+\beta _{3}x_{1}x_{2}+\epsilon$$ 增加的这一项名为交互项(interaction item),交互项由$x_{1}$和$x_{2}$的乘积组成。上式改写为 $$Y=\beta_{0}+(\beta_{1}+\beta_{3}x_{2})x_{1}+\beta_{2}x_{2} +\epsilon=\beta_{0}+\beta \hat{}x_{1}+b_{2}x_{2}+\epsilon$$ ,其中另 $$\beta\hat{}=\beta_{1}+\beta_{3}x_{2}$$ 因为$\beta\hat{}$随着$x_{2}$变化，$\beta\hat{}$变成了$x_{2}$的函数，所以$x_{1}$对于$Y$的效应不再是常数关系，变成函数关系了，我们知道多元回归中，偏回归系数的意思是在其他变量不变的情况下，某一个自变量的变化只是引起因变量的改变。也就是说，此时，某自变量对因变量起作用时与其他变量不变（与其他变量无关）。
   3.高斯-马尔可夫定理(Gauss-Markov Assumptions)的前提也是变量之间的独立性。
   我们也可以从条件概率可以理解，概率的加和规则$(sum \quad rule)$,条件$x_{i}$发生与否与$x_{j}$无关，于是也就有了联合概率，$p(x_{i})=\sum_{x_{2}}^{}p(x_{x},x_{2})$

需要说明的是，平时说的线性回归，不是自变量之间的线性，而是系数之间的关系是线性。