线性回归模型是监督学习中的一种基本的模型。其又分为单元线性回归模型和多元线性模型。
例如通过房子的面积来预测房子价格。首先需要通过一组数据来做出图像让机器来模拟,这组数据专业术语也叫做训练集。
首先是最简单的单元线性回归模型。需要预测出这样的线性方程来模拟数据。从而引出了代价函数,需要让代价函数尽可能的小,这样才是拟合的最完美的直线,才能做出尽可能的预测。
做出代价函数与w,b的函数图像,如图。从最上方往下看如同一个一个梯度。代价最小的时候正是立体图的最低点。也正是俯瞰图最小中心椭圆的中心点。
随着梯度下降,代价函数的值越小。所以需要一种算法来求得这个这个点,也就是梯度下降算法。