台大李宏毅机器学习—学习笔记01

0.机器学习

       什么是机器学习？机器学习就是让机器有自己学习的能力，也可以总结为从数据中自动分析获得模型，并利用模型对未知数据进行预测。大致过程为：找到一个模型，然后用大量的数据去训练这个模型并不断矫正这个模型，然后用测试数据测试这个模型，不断优化调整，选择较好的模型实际应用。

                                                                                               学习路线图

1.回归

       型如下面表达式的问题，我们称之为回归。

     为了找到一个好的模型，我们需要引入损失函数如下：

    接下来，我们需要找到使得损失函数L(w)最小的wo，我们需要引入梯度下降求最小值：

     梯度下降公式：

    寻找最小损失函数，梯度下降过程，等高线方式描述如下图：

    我们如果不断地选择更加复杂的模型，在训练数据上的平均错误率在不断地下降，然而在测试数据上错误反而上升，我们把这个现象称之为过拟合。所以我们要选择稍微复杂一点的模型，但不要太复杂。