【机器学习实录】——线性回归(纯手搓版)

本文介绍了线性模型的基本概念,重点讲解了线性回归中最小二乘法的原理,即通过最小化误差平方和来找到最接近真实情况的模型。同时提及非线性模型如何扩展线性模型,并提到了凸函数的概念在优化中的作用。
摘要由CSDN通过智能技术生成

线性模型的形式简单,并且容易建模,但是其中蕴涵了机器学习的一些重要思想。许多功能更为强大的非线性模型可在线性模型的基础上通过引入层级结构或高维映射而得。

线性回归便是线性模型中最经典的模型之一

对于最小二乘法的理解:

- 从字面意思上考虑:二乘的意思就是平方,对误差进行二乘并求和(误差的平方和),得到损失函数,求出损失函数取最小值的函数中的参数

误差的平方和最小估计出来的模型是最接近真实情形的(误差=真实值-理论值)

- 最佳的拟合准则是使得yi-f(xi)的距离的平方和最小

 

凸函数图示.

  • 11
    点赞
  • 12
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值