线性回归一般分为单变量线性回归和多变量线性回归。
线性回归的预测效果很高
一、单变量线性回归
对于单变量线性回归,我们要做的就是怎么样通过学习得到一个假设函数(h),从而能给出房子的估值??
①、假设函数的一般形式:
②、参数
③、代价函数:拟合参数的标准,这边为均方误差
④、求解代价函数为最小值时的参数
而解决最小化问题时,我们引入了 梯度下降算法。
梯度的本意是一个向量(矢量),表示某一函数在该点处的方向导数沿着该方向取得最大值,即函数在该点处沿着该方向(此梯度的方向)变化最快,变化率最大(为该梯度的模)。
∙ \bullet ∙ 梯度算法的思想:
开始时我们随机选择一个参数的组合(ø0,ø1,…,øn),计算代价函数,然后我们寻找下一个能让代价函数值下降最多的参数组合。持续这样做直到找到一个局部最小值(Local Minimum),因为我们并没有尝试完所有的参数组合,所以并不能确定我们得到的局部最小值是不是全局最小值(Global Minimum),选择不同的初始参数组合,可能会找到不同的局部最小值。
∙ \bullet