《机器学习基石》笔记一——机器学习简介

1.1 什么是机器学习？

人类学习是从不断的观察获得经验的技能。
机器学习是从数据出发，通过数学运算等方式获得经验增强的技能。

1.2 什么时候可以用机器学习？

1）存在一些内部的规则
2）编程无法把这个规则定义出来
3）有充足的数据

1.3 基本符号

输入样本空间：$x\in X$
输出样本空间：$y\in Y$
目标函数(要学习出的模式)：
$f:X⟶Y$
训练样本：
D = { ( x 1 , y 1 ) , ( x 2 , y 2 ) , ( x 3 , y 3 ) , ⋯ , ( x N , y N ) } D = \{(x_1,y_1), (x_2,y_2), (x_3,y_3), ⋯ ,(x_N,y_N)\} D={(x1​,y1​),(x2​,y2​),(x3​,y3​),⋯,(xN​,yN​)}
假说hypothesis(所有的可能的假设空间）：
$g:X⟶Y$
目的就是根据未知的目标函数$f$生成了训练样本$D$，通过机器学找到对应的假设空间$g$通过优化算法得到最优的$g$使得$g\approx f$，过程如下：