机器学习_西瓜书_C3线性模型_待更新

目录

3.1 基本形式

3.2 线性回归 linear regression

一元线性回归

多元线性回归

方法一: 最小二乘法(均方误差 square loss)

方法二: 极大似然法maximum likelihood method

对数线性回归log-linear regression

3.3 对数几率回归 logistic regression

3.4 线性判别分析(LDA)Linear Discriminant Analysis

3.5 多分类学习

一对一OvO

一对多OvR

多对多MvM

3.6 类别不平衡class imbalance

原因

策略

方法

---

3.1 基本形式

3.2 线性回归 linear regression

 离散属性: 若属性值存在序order关系, 可将离散值(高,矮)转为连续值(1,0); 若无序关系, 可转为k维向量(二分类化)

一元线性回归

多元线性回归

非满秩矩阵正则化regularization

确定w, b

方法一: 最小二乘法(均方误差 square loss)

 闭式解closed-form

方法二: 极大似然法maximum likelihood method