李宏毅机器学习课程笔记
【Task01:机器学习介绍】
kaggle应用(http://www.kaggle.com/),作业
一、应用场景:
1.1语音识别
1.2图像识别
二、功能
2.1回归:输出一个数值
2.2分类:准备好类别(准备的选项不止一类),输出为类别的一类
类似于go围棋评估下一步放在哪个位置(每个没有落子的位置都是选项)
2.3结构学习(structure learning):输出有结构化的对象(创造文章、图片等)
三、机器如何找function(训练数据)
3.1第一步:先猜测出带有未知数的一个function(基于对预测问题的了解)
3.2第二步:定义损失函数(基于训练数据得出)
损失:通过模型预测的数据与实际数据的差距
计算每个数据误差的公式(举例):
计算所有误差之和评估模型好坏:
Err surface:参数误差图
3.3第三步:optimization最优化(找出最好的参数)——梯度下降法
①随机选取初始点
②计算该点的切线斜率(微分),如果斜率为负值,则增加w,斜率为正值,减小w(增加或减小的幅度被称为学习的速率:
)附:超参数:自己设置的值
③经过学习后,更新w,直到找到最小loss或者到达你设定的学习次数。
如果两个参数就类似于一个向量的更新。