fisher线性判别_多元统计分析第06讲（多元线性回归，距离判别）

多元线性回归（不考）

（三）维数祸根

上次提到，对于非线性模型，可以利用泰勒展开去掉高阶项，得到近似的线性模型。但如果协变量的维数很高，偏导数很多，会导致计算量增大。

（1）可加模型：

即假定多元协变量的函数可以写成 p 个一元函数之和

（2）部分线性回归：

即把多元协变量分为两部分，其中一部分具有线性结构，用来估计参数，另外一部分维数低，可以用泰勒展开处理。

（3）单指标回归模型：

用

分量的线性组合降低维数

（4）变系数回归模型：

（四）LSE 的渐近性质

考察线性回归模型

，记

则 LSE 估计量为

（1）相合性：

证明：往证两者之差依概率收敛于0。将

代入

可得

这里出现了 n 个独立同分布随机变量和的形式，所以配凑大数定律得到

（2）渐近正态性:

证明：与（1）类似得到