机器学习算法笔记-线性回归

这篇博客详细介绍了线性回归的概念,包括线性回归的表达式、误差定义、目标函数以及参数求解和更新的过程。重点讲解了梯度下降法在优化目标函数中的应用,探讨了不同类型的梯度下降方法,如批量、随机和小批量梯度下降,并强调了学习率对模型训练的影响。
摘要由CSDN通过智能技术生成


参考视频资料:https://www.bilibili.com/video/BV1rq4y1p7nJ?p=10&spm_id_from=pageDriver

线性回归的概念

我的理解是,假如有1个或多个特征量xi,根据这些特征量的重要性赋予其不同的参数(权重),将被赋予参数的所有特征量(xi必须是一次项)相加,就能够得到一个目标预测值y。
记-线性回归)

线性回归的表达

比如预测贷款额度,那么贷款额度就是y,假设它与年龄x1和工资x2有关,特征系数为theta1和theta2,偏置为theta0,那么y与他们的线性关系就是:
在这里插入图片描述
转自:https://www.bilibili.com/video/BV1rq4y1p7nJ?p=2
为了方便计算,将其用矩阵的形式表示,因为x有x1 x2两项,theta有theta0,theta1,theta2三项,因此在矩阵运算时要给x添加一列全为1的常数项,用来和偏置项相匹配。

线性回归的误差

预测值和真实值之间存在的差异即误差,其中yi是预测值。
在这里插入图片描述

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值