西瓜书学习计划-2

CH3 线性模型

给出线性模型的一般形式；
引出最小二乘法；

推广，得多元线性回归，以及多元最小二乘法；
给出变形：对数线性回归；推广的广义线性模型；

对于分类问题，可以通过对数几率函数（logistic function），来转化为连续问题。

y = 1/（1+e^-z）
通过极大似然计算w 和 b

线性判别分析LDA
通过拉格朗日乘子法，计算w和b

多分类学习

一对一 O v O 需要N(N-1)/2个分类器
一对其 O v R 需要N个分类器
多对多 M v M

类别不平衡问题

再缩放：
欠采样；过采样；阈值移动