第二周回顾

上周整个人的状态还是比较不错的，但距离我预期的目标，或者说我一开始给自己定下的计划，还是有一定的距离。因此我需要不断完善我的计划。距离四级考试还有八十二天，高数、线代和专业课同样不能落下，所以我需要尽可能好的平衡我的时间。

下面说一下我上周机器学习的成果。

单变量线性回归
首先用房价预估引入模型。房价预测训练集中，同时给出了输入 x 和输出结果y ，即给出了人为标注的”正确结果“，且预测的量是连续的，属于监督学习中的回归问题。
代价函数
我去知乎上搜索了一下机器学习中的目标函数、损失函数、代价函数有什么区别：
损失函数(Loss/Error Function): 计算单个训练集的误差
代价函数(Cost Function): 计算整个训练集所有损失之和的平均值
目标函数(Objective function)：字面一些，就是有某个（最优化）目标的函数，比如最优化这个目的。没有找到定义，个人理解，目标函数是一个大类，包含损失函数、代价函数；损失函数、代价函数，属于目标函数。
链接：https://www.zhihu.com/question/52398145/answer/298003145
目的在于求解预测结果 h最接近于实际结果 y 时O 的取值

求最好的拟合效果

梯度下降
在特征量很大的情况下，即便是借用计算机来生成图像，人工的方法也很难读出目标函数的最小值，并且大多数情况无法进行可视化，故引入梯度下降的方法，让计算机自动找出最小化代价函数时对应的值。

梯度下降背后的思想是：开始时，我们随机选择一个参数组合即起始点，计算代价函数，然后寻找下一个能使得代价函数下降最多的参数组合。不断迭代，直到找到一个局部最小值，由于下降的情况只考虑当前参数组合周围的情况，所以无法确定当前的局部最小值是否就是全局最小值，不同的初始参数组合，可能会产生不同的局部最小值。

还有一个学习速率
学习速率过小，收敛的太慢，需要更多次的迭代。
学习速率过大，可能越过最低点，甚至导致无法收敛。