1)统计学习
2)监督学习
3)统计学习三要素
4)模型评估与模型选择
5)判别模型与生成模型
1)统计学习
统计学习分为:监督学习(supervised learning)、无监督学习(unsupervised learning)、半监督学习(semi-supervised learning)、强化学习(reinforcement learning)等,本书主要讨论监督学习。
统计学习方法三要素:模型的假设空间(模型,model)、模型选择的准则(策略,strategy)以及模型学习的算法(算法,algorithm)。
实现统计学习的步骤如下:
(a)得到一个有限的训练数据集合;
(b)确定包含所有可能的模型的假设空间,即学习模型的集合;
(c)确定模型选择的准则,即学习的策略;
(d)实现求解最优模型的算法,即学习的算法;