1 introduction

主要介绍了ML的过程

1 有一个训练集{x1,x2,...xN}，用来调节建模的参数；如果有对应的观测集{t1,t2,...tN}；就是supervise learining problems；通过训练集和观测集，学习出模型的参数w。

2 训练集{x1,x2,...xN}与观测集{t1,t2,...tN}的函数关系y(x,w)（隐藏在数据背后的规律），通过ML算法学习出。这样就可以对新的输入数据，利用ML算法，去识别。

3 评价一个ML算法的标准，是泛化能力（generalization）：即对新的数据的适用能力。

4 在实际应用ML时，会预处理（有时是特征提取），减少计算量，某些情况下可以减少模型的复杂程度。

5 监督学习：主要是回归（regression）和分类（classification），两者区别：regression的观测集是连续变量，classification是离散的。无监督学习，没有观测集，只要有聚类（clustering）和密度估计（density estimation）等。

6 增强学习reinforcement learning：设计一个回报函数：即在每一次输入（x,t），判断回报函数是正or负；回报函数影响迭代的输入（x,t）的输出，我们寻找最大回报函数的model。