西瓜书第三章线性模型

p53

​

 

​​

 

线性模型形式简单、易于建模，但却蕴涵着机器学习中一些重要的基本思想.许多功能更为强大的非线性模型(nonlinear model) 可在线性模型的基础上通过引入层级结构或高维映射而得.

接下来介绍几种经典的线性模型

1.线性回归

试图学得​​

 

如何确定w和b呢？让均方误差最小化。

均方误差有非常好的几何意义?它对应了常用的欧几里得距离或简称"欧氏距离" (Euclidean distance). 基于均方误差最小化来进行模型求解的方法称为"最小二乘法" (least squ method). 在线性回归中，最小 乘法就是试图找到一条直线，使所有样本到直线上的欧氏距离之和最小.

怎么求解：

​​

 

找找代码！

对数几率回归

线性判别分析

多分类学习

类别不平衡问题