一、 统计学习方法概论
1. 统计学习的分类
有监督学习
无监督学习
2. 统计学习方法三要素
模型(假设空间)
策略
- 损失函数
- 风险最小化
- 经验风险最小化
- 结构风险最小化(加入正则项防止过拟合)
算法
3.模型评估与选择
训练误差与测试误差
过拟合与模型选择
4.正则化和交叉验证
正则化放过拟合
交叉验证
5.应用
分类问题
- 精确率:预测为正的样本中有多少被分对了
- 召回率:实际正类中,有多少正类被发现了
- F1值:上面两个的权衡
标注问题
回归问题
6.泛化能力
泛化误差上界,有个强假设,很少见,假设空间里为有限个。
7.生成模型与判别模型