机器学习入门篇-线性回归-最小二乘法(正规方程)

本文介绍了线性回归的基本概念,通过最小二乘法(正规方程)解释如何找到最佳拟合直线。内容涉及权重w、偏置b的含义,误差的正态分布,以及极大似然估计和对数似然的概念,最终导出目标函数J,并通过求偏导和令其等于0来求解参数θ。
摘要由CSDN通过智能技术生成
  1. 概念:线性回归是为了找到一条合适的线或者面来拟合数据
  2. 引导过程:假设预测一个人能从银行贷多少款?我们要考虑他的年龄、工作、有无房产等等,这是,每个考虑的因素(特征值)用x代表,考虑的因素的重要性的高低用w表示,则这个人的贷款额度可以的用以下公式表示表达:
    f(x) = W1X1+W2X2+W3X3+b

(PS:w叫权重,对结果有决定性的影响,是计算主要优化的对象。b叫偏置,对结果影响不大,以后计算中经常忽略)
(2)对于上面的公式简化表达:在这里插入图片描述
(PS:机器学习中,数据量比较大,采用向量化来计算,来提升效率,不然就得就for循环了)
(3)误差:机器学习中预测模型跟真实值之间肯定是有误差(误差会在真实值的上下浮动),引入误差项表达:
在这里插入图片描述
(PS:y(i)代表真实的值,wTx+E(i)代表模型预测再加上与真实值存在的误差。其中每个人能贷款多少是彼此独立的,所以每个样本的误差也都是独立的,这里再次引入正态分布,也叫高斯分布的概念来形容每个单独的样本的误差分布情况)
(4)正太分布公式如下:</

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值