1. 机器学习是什么?
机器学习就是寻找一个函数,该函数能够根据输入给出尽可能正确的输出。
2. 寻找的函数有什么类型?
(1)回归函数:输出数值类型数值。如预测明天PM2.5浓度。
(2)分类函数:给定可选类别,输出正确的类别。
如识别垃圾邮件,有两个类别。
围棋游戏,有19×19个类别。
(3)结构学习:产生有结构的对象,如生成一个图像,写一篇文章等。
3.机器怎么找函数?
以一个频道第二天的点击量为例。
(1)假设基于领域知识(domain knowledge)已知函数形式,写出带有未知参数(b, w)的函数。
其中,是昨天的点击量,称为特征;w和b是需要学习的未知参数,w为权重,b为偏置。
(2)定义一个损失函数L(w,b),在(w,b)为某个确定的数值时,评价这组参数值好还是不好。
损失函数有平均绝对误差(MAE),均方误差(MSE)
(3)目标是找到一个(w,b)组合,使损失函数最小。因此转换为优化问题,找到一组最好的(w,b)。
梯度下降是最常用的优化方法。首先选取初始组合(w,b),然后通过微分计算和学习率,更新(w,b),不断迭代,直至损失函数最小或达到设定的迭代次数。