机器学习 西瓜书 第三章线性模型 读书笔记

第三章线性模型
3.1 基本形式
f(æ) = ω1 X1 + ω2 X2 十…+ωdXd + b
3.2 线性回归 linear regression
确定ω 和b
均方误差，亦称平方损失
(Square loss)
欧氏距离
最小二乘法
基于均方误差最小化来进行模型求解，试图找到一条直线，使所有样本到直线上的欧氏距离之和最小.
参数估计 parameter estimation
求解ω 和b 使函数的均方误差最小化的过程
多元线性回归
3.3 对数几率回归 logistics regression
极大似然法
3 .4 线性判别分析
3.5 多分类学习
3.6 类别不平衡问题
类别不平衡就是指分类任务中不同类别的训练样例数目差别很大的情况.