林轩田《机器学习基石》笔记一

1.课程结构

整个基石课程分成四个部分：

• When Can Machine Learn?

• Why Can Machine Learn?

• How Can Machine Learn?

• How Can Machine Learn Better?

1.ML的基本概念

机器学习可以被定义为：Improving some performance measure with experence computed from data. 也就是机器从数据中总结经验，从数据中找出某种规律或者模型，并用它来解决实际问题。

2.ML的应用场景

应用场合大致可归纳为三个条件：

• 事物本身存在某种潜在规律

• 某些问题难以使用普通编程解决

• 有大量的数据样本可供使用

3.机器学习的基本流程

对于理想的目标函数f，我们是不知道的，我们手上拿到的是一些训练样本D，假设是监督式学习，其中有输入x，也有输出y。机器学习的过程，就是根据先验知识选择模型，该模型对应的hypothesis set（用H表示），H中包含了许多不同的hypothesis，通过演算法A，在训练样本D上进行训练，选择出一个最好的hypothes，对应的函数表达式g就是我们最终要求的。一般情况下，g能最接近目标函数f，这样，机器学习的整个流程就完成了。(A+H=learning model)