2021-09-08

这篇博客探讨了线性回归模型如何利用梯度下降来最小化平方差代价函数,从而找到最佳拟合直线。在多元线性回归中,多个特征值被考虑以构建更准确的假设函数。文章强调了特征缩放,如均值归一化,对于加速梯度下降过程的重要性,并提示选择合适的学习率以确保算法收敛。同时,展示了如何用矩阵运算预测多个属性的数据,例如房价预测。
摘要由CSDN通过智能技术生成

线性回归模型:
将梯度下降函数应用最小化平方差代价函数(把 J 代入一下)
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
对于局部最优解和全局最优解,线性回归的代价函数总是碰不上这类问题,因为他们的图形是:

假设函数(h),代价函数(J)(类似于数值最接近方程和误差最小loss的函数)
在这里插入图片描述随着对代价函数取到最优点,假设函数也是一步步地随之变化,越来越和数据点更重叠,有更好的拟合。
在这里插入图片描述我们以上使用的可以被叫做Bacth梯度下降:
即每一步梯度下降都使用了整个训练集。也就是每一步代价函数会改动一次假设函数,得到更好地线性回归模型。
在这里插入图片描述
利用矩阵实现对四所房子价格的预测:
在这里插入图片描述
在这里插入图片描述

多个特征值:
在这里插入图片描述
【多元线性回归】多特征值假设:几个特征值,在构建假设函数的时候就构建几个Xn;

在这里插入图片描述
用梯度下降的方法处理多元线性回归:
参数描述
在这里插入图片描述
特征缩放:
在这里插入图片描述在这里插入图片描述

均值归一化:能使梯度下降更快一点【对于每一个特征值都进行均值一次的话,那么它的数据就非常接近,
就会很好求最优 点
在这里插入图片描述

通过下面这条迭代曲线可以看出梯度算法是否收敛:
对于自动收敛测试,更倾向于通过左边的曲线看是否收敛
选择合适的学习率ɑ:
在这里插入图片描述size指的是房子的面积,最好在构建模型的时候对其进行特征缩放。
在这里插入图片描述可以选择多种不同的拟合函数:
在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值