机器学习:让机器具备找一个函数的能力
· 回归:函数的输出是一个标量数值
· 分类:函数的输出是对所给选项作出一个选择
· 结构化预测:函数的输出是一些有结构的输出,比如句子、图等
机器学习过程:
1.写出一个带有未知参数的函数即模型。y = b + wx1,y是函数的输出结果,x1是已知的特征信息,w是权重,b是偏置
2.定义损失函数。L(b,w),以b和w作为输入,代入模型计算出的yhat与历史真实数据计算在这个b和w情况下的损失,如平均绝对误差:取所有|y - yhat|的平均值作为L;均方误差:(y - yhat)平方。这两种情况下L越大代表这一组b和w的越不好。
3.最优化。通过使用如梯度下降等的优化方法,找出能使损失L最小的b和w(需注意梯度下降法可能找到的是局部最小值,而不是全局最小值)。