李宏毅机器学习总结笔记2- regression（回归）和regularization（正则化）

最新推荐文章于 2024-04-05 19:52:27 发布
最新推荐文章于 2024-04-05 19:52:27 发布
阅读量850 收藏 2
点赞数 1
分类专栏： 上学 # 笔记
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/you_jinpeng/article/details/90767817
版权
本文介绍了回归（regression）的基本概念，包括其定义、模型选择及损失函数，并详细阐述了梯度下降法在寻找最优函数中的应用。此外，还探讨了正则化（regularization）的作用，即通过限制模型参数大小以达到更平滑的函数，避免过拟合。
摘要由CSDN通过智能技术生成

regression（回归）和regularization（正则化）

一，regression是什么
翻译：回归，输出一个数值的函数就叫regression，是机器学习的一种任务。
在这里插入图片描述

例子1输出明天股票的升涨数值，例子2输出方向盘应该转动多少角度，例子3输出购物者可能购买某件商品的可能性。

二，regression
step1：model
在这里插入图片描述
model就是要给他拟一条函数，可以考虑多少次方和考虑多少参数参与，这就是model。

step2：goodness of function（直译：函数的优度）
在这里插入图片描述
损失函数：实际与测试结果的偏差。

step3：best function

最低0.47元/天 解锁文章
you_jinpeng
关注
  • 1
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
李宏毅机器学习（2021）学习笔记 01
hldgs的博客
11-29 916
李宏毅老师《机器学习2021》课程的学习笔记。
李宏毅机器学习总结
梦码城博客中心
10-24 3068
人工智能与机器学习与深度学习之间的关系 机器学习的三类任务 第一类是无监督学习，指的是从信息出发自动寻找规律，并将其分成各种类别，有时也称"聚类问题"。 第二类是监督学习，监督学习指的是给历史一个标签，运用模型预测结果。如有一个水果，我们根据水果的形状和颜色去判断到底是香蕉还是苹果，这就是一个监督学习的例子。 最后一类为强化学习，是指可以用来支持人们去做决策和规划的一个学习方式，它是对人的一些动作、行为产生奖励的回馈机制，通过这个回馈机制促进学习，这与人类的学习相似，所以强化学习是目前研究的重要方向之一。
李宏毅课程-机器学习总结
weixin_49904164的博客
04-22 596
李宏毅课程-机器学习总结迁移学习：Transfer Learning1. 什么是迁移学习呢？2. 为什么用迁移学习3. 迁移学习的概述3.1 第一类迁移学习3.2 第二类迁移学习3.3 第三类迁移学习3.4 第四类迁移学习 大佬的笔记较好，拷贝留档学习 学习网址 https://aistudio.baidu.com/aistudio/education/group/info/1978 迁移学习：Transfer Learning 1. 什么是迁移学习呢？ 假设现在要做猫和狗的分类器，我们需要一样标签数据告诉
李宏毅机器学习课程总结(1)
Cai_Guanglei的博客
05-18 430
回归(Regression) 回归是一种数学模型，主要用于分析因变量与自变量之间的函数关系，如果因变量和自变量之间的关系是线性关系，那么该回归就是线性回归。在机器学习领域，回归的主要功能是预测，即通过使用在已知的数据集上训练并总结出来的因变量与自变量之间的函数规律，对未知的或没有统计到的数据进行预测推断。主要应用场景在：股市预测、自动驾驶和推荐系统等。 在课程中李宏毅老师用预测宝可梦进化后的CP值进行回归问题的解释。进化前的宝可梦可能会影响进化后CP值的因素是：①宝可梦进化前...
李宏毅老师2020机器学习（深度学习）——知识点总结篇（1-20）
阿芒Aris的博客
10-14 3591
李宏毅老师2020机器学习——知识点总结篇（持续更新）
李宏毅机器学习------Regression
cuicui_ruirui的博客
07-17 253
一、Regression应用 1、股票预测分析（输入：过去十年股票起伏的资料 输出：明日某公司点数） 2、无人驾驶（输入：红外线感知到的信号、摄像头拍摄物体 输出：方向盘角度） 3、推荐系统（输入：使用者A、商品B 输出：使用者A购买商品B的可能性） 输出值都是一个数值（scalar） 二、实例分析 以宝可梦的cp值为例（输入：宝可梦的信息：可能包括重量(xw)、身高(xh)、原cp（xcp）、物种（xs）、生命值（xhp） 输出：进化后的cp值（y）) ...
李宏毅《机器学习》笔记-2.Regression
l75326747的博客
05-16 309
1. 什么是Regression(回归) 如果一个任务的输出（output）是一个数值（scalar），那么这种任务就是Regression（回归）。 例如：股票指数预测；无人驾驶中输出方向盘角度；商品推荐中使用者购买商品的可能性等 2. 线性回归案例：宝可梦cp值 根据宝可梦当前cp值以及一些其他指标，预测进化后的cp值 使用机器学习三板斧 Step1. 设计模型（Model） 假设进化后的...
李宏毅机器学习入门学习笔记（一）Regression - Case Study
DataScience成长之路
02-18 1299
文章目录定义应用举例建模详细步骤模型假设（Model）（Goodness of function） 定义 Regression 就是找到一个函数 functionfunctionfunction ，通过输入变量 xxx，输出一个数值 ScalarScalarScalar。 应用举例 股市预测（Stock market forecast） 输入：过去10年股票的变动、新闻咨询、公司并购咨询等...
李宏毅《机器学习》笔记：12.半监督学习
羊老羊
10-22 563
【参考文章】 笔记：https://blog.csdn.net/oldmao_2001/article/details/91285039 生成模式：https://blog.csdn.net/wistonty11/article/details/120365719 EM算法：https://zhuanlan.zhihu.com/p/40991784 文章目录1. 关于半监督学习1.1 定义1.2 分类1.3 半监督学习原因2. 半监督生成式模型（Semi-Supervised Generative Mod
李宏毅 || 机器学习笔记一
JiduoW的博客
07-25 4466
李宏毅机器学习2021/2022年学习笔记
李宏毅机器学习——Why Deep总结
Fighting Hua
11-22 389
问题1：越深越好？ learning从一层到七层，error rate在不断的下降。能看出network越深，参数越多，performance较也越好。 问题2：矮胖结构 v.s. 高瘦结构 比较shallow model较好还是deep model较好，在比较的时候一个前提就是调整shallow和Deep让他们的参数是一样多，这样就会得到一个矮胖的模型和高瘦的模型。 这个实验的后半段的实验结果是：我们用5层hidden layer，每层2000个neural，得到的error rate是17.2%（
7.机器学习之正则化(李宏毅)
qq_39223444的博客
06-16 299
7.正则化（Regularization） 7.1 过拟合的问题（The problem of Overfitting） 我们已经学习了几种不同的学习算法，包括线性回归和逻辑回归，它们能够有效地解决许多问题，但是当将它们应用到某些特定的机器学习应用时，会遇到过拟合(over-fitting)的问题，可能会导致它们效果很差。接下来了解什么是过拟合，以及可以改善过拟合的一种技术：正则化。 欠拟合就是模型不能很好的适应我们的训练集，过拟合是模型过于强调训练数据，而在预测新数据时效果很差。 有过拟合问题，应该如何
机器学习和深度学习 -- 李宏毅（笔记与个人理解1-6）
最新发布
weixin_65403042的博客
04-05 1721
课程内容。
李宏毅机器学习2016 第一讲 回归案例分析
Come_for_IT 的博客
12-05 1032
本人于2017年12月5日开始学习机器学习课程，个人对机器学习及深度学习已有一定的了解。学习此次课程的目的是为了加深对机器学习的认识，以期达到进阶以及加深理解的作用，此外也希望通过完成课程作业，能够提升自己的实战项目能力。 视频链接：李宏毅机器学习(2016)_演讲•公开课_科技_bilibili_哔哩哔哩 课程资源：Hung-yi Lee 课程相关PPT已经打包命名好了：链
李宏毅 机器学习 回归demo代码
Liesl666
07-28 440
李宏毅 机器学习 回归demo生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 高亮样式，下面展示同样高亮的 代码片. // An highlighted block var foo = 'bar'; 生成一个适合你的...
李宏毅机器学习课程--回归(Regression)
Cossper的博客
09-12 590
  近期在学习李宏毅老师的机器学习视频(https://www.bilibili.com/video/av10590361/?p=4),下面写一下自己的心得体会。   李老师用的是精灵宝可梦做的比喻，假设进化后的宝可梦的cp值(Combat Power)与未进化之前的宝可梦的cp值相关，我们想找出这两者之间的函数关系，可以设进化后的cp值为y,进化之前的cp值为x：y = b + w*x (不只...
李宏毅2020机器学习笔记2——回归：梯度下降算法、正则化
babychrislee3的博客
06-29 8065
一、回归应用广泛 二、引出梯度下降算法来求解minL （1）梯度下降厉害的地方在哪里？ 只要方程可微分，都可以拿来进行处理，来找比较好的参数和方程。 梯度的方向是变化率最大的方向。 （2）梯度下降法：只有一个参数时 总是为了让loss减少。 任取一点，求出来该点的导数为负，就增加w；反之减少w。 n ： learning rate 学习率 （决定步长） 可以看出来步长是变化的。 越接近min，导数值越小，步长越小。 梯度下降法：有两个参数时 【注意】w和b一定是同步更新的 梯度方向其实也是等高线的法
李宏毅机器学习作业2-使用逻辑回归对人员按收入分类
cprimesplus的博客
08-01 662
说明 本代码实现尚有很大不足，最终分类的正确率仅能达到78.25%，且迭代次数过多（100次） 或 不对数据进行任何处理 或 将所有特征均用minmax的方法归一化 的情况下，都会导致测试集的所有分类均为0，原因尚不明，恳请读者指正。 另外，本代码未划分验证集，等有新思路再一并修改。 代码 # -*- coding:utf-8 -*- import numpy as np import panda...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值