首先,多元回归是干什么用的?
在回归分析中,如果有两个或两个以上的自变量,就称为多元回归。实际应用中,一种现象常常是与多个因素相联系的,由多个自变量的最优组合共同来预测或估计因变量,比只用一个自变量进行预测或估计更有效,更符合实际。总的来说,回归分析就是用来做预测的,多元回归要比一元回归更加高效实用。
![10fb70811d0aad3d6513cd8613cdc18e.png](https://i-blog.csdnimg.cn/blog_migrate/ec51326b69887a1e43f31df4b497f7d7.png)
如果线性回归方程存在,那么我们要求出每一项 X 前的系数
![cd9aa9c1b2f3155e4170c480ff2cdaa3.png](https://i-blog.csdnimg.cn/blog_migrate/2fac69530827713b5ecc0a4943f05ef7.png)
求 Q 的最小值,把预测值代入之后,分别对
![2440834c466f96ab1ddf2e8d19d1cae4.png](https://i-blog.csdnimg.cn/blog_migrate/f1a120c95dbe4d21b4233d3d0c75ba60.jpeg)
按照上面的方法求得各个系数之后,要对方程的显著性和偏回归系数进行检验。即求得的回归方程是否达到统计意义,是否达到0.05的显著水平。和一元回归不同的是这里的系数叫做偏回归系数,因为自变量的个数多于一个。
![abd620e18abd1871601f75fc7de89487.png](https://i-blog.csdnimg.cn/blog_migrate/75370d2da409149ea2c3dc88614e41ab.jpeg)
首先对总偏差平方和进行分解,分解为回归平方和与残差平方和。对于回归方程来讲,残差平方和越小越好,因为它对应的是预测值与样本值之间的差异。这里和一元回归类似,采用 F 检验。目的就是检验:回归平方和是否大于残差平方和(F的右尾检验),如果大于,那么就可以说该方程具有统计意义。
![165f59d428ff006a187984cc7f51570f.png](https://i-blog.csdnimg.cn/blog_migrate/1ae2daf3c7db384608903f16988e6ad3.jpeg)
其中m是变量个数,n是样本容量,有了两个自由度可以求得F分布曲线。可以通过曲线在0.01或者0.05的临界值与求得的 F 值进行比较,判断回归方程是否显著。
![f5af1dfbb6ba2d02c030d546974d7257.png](https://i-blog.csdnimg.cn/blog_migrate/f2f9a505255c6ceba5932ba8faa31dcd.jpeg)
通过把数据代入计算,求得 F 的值为8.28 与0.01对应临界值相比,大于临界值。则与0.05对应的临界值相比也是大的,所以建立的回归方程具有统计学意义。
![fa4eccc9b7abedda29825a5397daf895.png](https://i-blog.csdnimg.cn/blog_migrate/73055b468c7cddd78be9adef23c61a69.jpeg)
![7d17a98af75b06b6e31093a3d28a73f8.png](https://i-blog.csdnimg.cn/blog_migrate/50d700e983daf21ab0641cd9d6879064.jpeg)
![7db251a178be76b88a5723de35b4a8c2.png](https://i-blog.csdnimg.cn/blog_migrate/8d343425dc62e33d5fe0b4454f4edc91.jpeg)
![859a14aea2ac7f14e1c40326923e6189.png](https://i-blog.csdnimg.cn/blog_migrate/05b3b349b04ba95ee3ba31e0450224aa.jpeg)
这里4个 F 值相加并不等于总的平方和133.7107,因为m个自变量之间可能会存在某种相关性。只有当m个自变量相互独立的时候,才会相等。
![92a32f160e8e7e663d6d7817a0a1fc1d.png](https://i-blog.csdnimg.cn/blog_migrate/aa28db393a306369c7ca97baadb1efdd.jpeg)
t 检验和 F 检验的结果是一样的。
![69864734d1bebb4be2190f531b875d5d.png](https://i-blog.csdnimg.cn/blog_migrate/1c88fe556b6040d9ea15faa849e2aa11.jpeg)
不能因为
![1001ba143464c9195d3ae77bb0c6bd0c.png](https://i-blog.csdnimg.cn/blog_migrate/2f165aed9b85cd0955c44769cc9618dd.jpeg)
变量标准化也就是把变量的均值变为0,方差变为1的一组新的变量。
![03e3e5132927177836e565929ff31db0.png](https://i-blog.csdnimg.cn/blog_migrate/87c8f0fbfcd633b26e515f705b44ceb3.png)
![1034cbebcfdcd780f304fffba83072ce.png](https://i-blog.csdnimg.cn/blog_migrate/8672624efee905841307bca9e18e4c45.jpeg)