第三章笔记

机器学习三要素：
1 模型：根据具体问题，确定假设空间
2.策略：根据评价标准，确定选取最优模型的策略（通常会产出一个“损失函数”）
3.算法：求解损失函数，确定最优模型

一元的线下回归：
模型：一元线性回归
策略：
算法：Hessian（海塞）矩阵

多元线性回归：
模型：多元线性回归
策略：
算法：Hessian（海塞）矩阵

对数几率回归：
模型：对数几率回归
策略：极大似然估计，信息论

算法：梯度下降，牛顿法

线性判别分析：
从几何角度，让全体训练样本经过投影后：
1、异类样本的中心尽可能远
2、同类样本的方差尽可能小