【机器学习笔记】线性回归之最小二乘法

本文介绍了线性回归的基本概念,重点探讨了最小二乘法在求解线性回归问题中的应用。通过代数推导展示了如何找到最佳拟合直线,使误差平方和最小,从而达到最佳的函数匹配效果。
摘要由CSDN通过智能技术生成

线性回归

   线性回归(Linear Regreesion)就是对一些点组成的样本进行线性拟合,得到一个最佳的拟合直线。

最小二乘法

   线性回归的一种常用方法是最小二乘法,它通过最小化误差的平方和寻找数据的最佳函数匹配。

代数推导

   假设拟合函数为 y = a x + b y=ax+b y=ax+b,对于任意样本点 ( x i , y i ) (x_{i},y_{i}) (xi,yi),误差为 e = y i − ( a x i + b ) e=y_{i}-(ax_{i}+b) e=yi(axi+b)。当损失函数 L = ∑ i = 1 n e i 2 L=\sum_{i=1}^{n}{e_{i}}^2 L=i=1nei2为最小时拟合度最好,即 ∑ i = 1 n ( y i − a x i − b ) 2 \sum_{i=1}^{n}(y_{i}-ax_{i}-b)^2 i=1n

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值