机器学习的分类:
·回归(Regression):机器输出一个数值,一个标量。
·分类(Classification):机器从人类预先设计好的几个选项中选择一个当作输出,输出值为离散的。
·结构化学习(Structured Learning):机器输出一个有结构的物体,如画一张图,写一篇文章。
监督学习&无监督学习:
机器学习中的监督学习与非监督学习-CSDN博客
机器学习三个步骤:
·step 1 : function with unknown
写出一个带有未知参数(parameter)的函数,该函数称为模型(model).
如 y = b + w x
y为准备预测的东西,x 为特征(feature)是来自后台的信息, w、b是未知参数,w权重(weight), b偏置(bias).
·step 2 : define loss from training data
loss 即损失函数 L (b,w): 是以未知参数为变量的函数,反应这组参数好还是不好。L越大,这组参数越不好。
·step 3 : optimization 最优化
方法:梯度下降(gradient descent)
步骤:
固定其他参数使得只有一个变量(如w);
随机选取一个w0 ;
在该点处L对w求导,若斜率为负,则在该点附近w变大可以使L变小。(yita学习率learning rate,自己设置的,决定参数改变的幅度。这种在机器学习中,需要自己设定,而不是机器自己找出来的参数,称为超参数hyperparameter);
反复进行上述操作,不断移动w的位置,直至 更新到设定的次数/该处斜率为零时停下来。