机器学习笔记_李宏毅_P4-Basic Concept_error的来源

最新推荐文章于 2024-07-08 01:47:11 发布
最新推荐文章于 2024-07-08 01:47:11 发布
阅读量208 收藏
点赞数
分类专栏： 李宏毅-深度学习-笔记 文章标签： 深度学习 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/CZYruobing/article/details/114368482
版权

李宏毅老师的机器学习笔记


课程视频

error 的来源

  • Bias
  • Variance

在这里插入图片描述

Bia和Variance如图

个人理解：Bias就像是是偏离目标；Variance就像是在目标周围发散

在这里插入图片描述

Variance很大会导致Overfitting：模型太复杂，预测效果差
Bias很大会导致Underfitting：训练效果差

在这里插入图片描述

什么是Underfitting？

在这里插入图片描述

以及如何处理？

在这里插入图片描述

什么是Overrfitting？

在这里插入图片描述

以及如何处理？

在这里插入图片描述

如何同时处理Bias和Variance

  • Cross Validation
    在这里插入图片描述
  • N-fold Cross Validation
    在这里插入图片描述

总结

  • 误差的来源
    Bias: 离目标越远，偏差越大
    Variance：点越发散，方差越大
  • 模型是函数集，最好的函数也只能从模型中选取
    简单模型：空间比较小，可能没包含目标函数，所以无论怎么选，都选不到目标 bais大
    复杂模型：空间很大，包含了目标函数，但是太多函数，可能找不到目标 variance大
  • 如果模型没办法fit训练样本，代表bias大，underfitting了
    如果训练误差很小，测试误差很大，代表variance大，overfitting了

机器学习笔记_李宏毅_P5-P7_Gradient Descent

CZYruobing
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
李宏毅2020机器学习课程笔记（一）- 分类与回归
⚡
04-25 1万+
包含李宏毅机器学习视频P1-P16的课程梗概
【李宏毅2020 ML/DL】P4 Basic Concept
记录学习痕迹的公众号：Piper蛋窝
07-20 1449
引出了交叉验证。
机器学习笔记_李宏毅_P3-Regression-case study
CZYruobing的博客
03-04 209
李宏毅老师的机器学习笔记例子步骤第一步：模型第二步：寻找最好的函数第三步：算法结果 课程视频 例子 用Regression预测宝可梦进化后的CP值 步骤 第一步：模型 寻找最合适的函数f，也就是寻找最合适的参数w,b 第二步：寻找最好的函数 训练数据： 10只宝可梦 最好的函数为：损失函数最小 如何使得损失函数最小?：随机梯度下降法 举例子说明什么是随机梯度下降法？如何计算？ 假设只有一个参数w时 假设只有两个参数w，b时 考虑到一个问题：在linear model中，没有局部最优，所以可
[李宏毅机器学习课程笔记] 2.1 basic_concept
jswcsdn的博客
05-18 97
李宏毅机器学习2020 B站课程p4
【李宏毅机器学习】Basic Concept 基础概念（p4） 学习笔记
duanyuchen的博客
07-16 552
Review 越复杂的model，在testing data上的error未必越低。 error来自两个地方： bias variance f_star是f_hat的一个估测值，f_star可能不等于f_hat，距离可能来自于bias，也可能来自于variance方差 估测变量x的mean均值（假设变量x的均值为μ，方差为σ^2）： ​ 先sample N个点，将其算平均值m，一般都不等于x的均值μ ​ 但是计算m的期望值，会正好等于μ N越大，分布越集中；N越小，分布越分散 估测x的σ^2
李宏毅2020机器学习【学习笔记】P1机器学习、P3Regression(回归）、P4Basic Concept(基本概念）
weixin_51330846的博客
08-07 459
【李宏毅2020机器学习深度学习(完整版)国语】 https://www.bilibili.com/video/BV1JE411g7XF/?
【李宏毅机器学习2020】Basic Concept 基础概念（p4） 学习笔记
weixin_45947476的博客
11-24 185
李宏毅机器学习学习笔记汇总 课程链接 Review 越复杂的model，在testing data上的error未必越低。 error来自两个地方： biasvariance f_star是f_hat的一个估测值，f_star可能不等于f_hat，距离可能来自于bias，也可能来自于variance方差 估测变量...
李宏毅2020机器学习深度学习 笔记1（理论上持续更新中）
Karen_Yu_的博客
12-13 1173
我真的超能鸽????哈哈哈 在各种方向上来回摇摆，最后还是老老实实找机器学习来听了（B站学习网站石锤了） https://www.bilibili.com/video/BV1JE411g7XF 看评论还不错，就从这里开始吧！笔芯 ----------------------------------------------------------------------------------------------- P1 Machine Learning (2020)_Course Introd
2020李宏毅机器学习笔记
weixin_44805775的博客
03-28 265
Regression （回归） Case Study （p3） 机器学习的三个步骤： 定义模型，线性？合理性？ 定义损失函数来判断模型的好坏 梯度下降法求使得loss最小的模型里面的参数 建立模型： 定义损失函数： 求使得loss最小的function，即函数里面的参数 线代貌似可以直接解step3里面的式子，但是忘记了，老师介绍的是Gradient Descen（梯度下降法）。 梯度下降法的原理和理论都不难理解，这里主要是学到了一个新的图像表示：这种图放在论文里面应该挺不错的
HW_3_李宏毅2020机器学习作业_李宏毅作业3_李宏毅hw3_李宏毅作业三_saledzj_
10-01
《李宏毅2020机器学习作业3：Python实现深度学习基础》 在本次作业中，我们将深入探讨李宏毅教授2020年机器学习课程中的第三部分，主要聚焦于使用Python语言进行深度学习的基本操作。这个作业旨在帮助学生理解和...
HW_1_李宏毅机器学习作业_thatnn8_李宏毅_
10-01
《李宏毅机器学习作业——thatnn8与Python实践》 李宏毅教授的机器学习课程因其深入浅出的讲解而备受赞誉，他的作业设计旨在帮助学生深入理解并掌握机器学习的基本概念和技术。这个名为“HW_1_李宏毅机器学习作业_...
李宏毅机器学习--Datawhale202210.zip
04-08
机器学习是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。它专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的...
台大_李宏毅PPT_机器学习
10-28
本资源是机器学习 台大教授 李机器学习(Machine Learning, ML)是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。宏毅的授课配PPT讲稿。
李宏毅机器学习笔记
01-18
李宏毅机器学习笔记，文档文件，笔记全面，总结充分，仅供学习
第16周：LSTM-火灾温度预测
weixin_46620278的博客
07-05 895
🍨 本文为[🔗365天深度学习训练营](https://mp.weixin.qq.com/s/0dvHCaOoFnW8SCp3JpzKxg) 中的学习记录博客🍖 原作者：[K同学啊](https://mtyjkh.blog.csdn.net/)说在前面本周目标：对时序数据进行预测，了解LSTM是什么，并使用其构建一个完整的程序，并使最后的决定系数R^2达到0.83；拔高目标——使用第1~8个时刻的数据预测第9~10个时刻的温度数据。
动手学深度学习（Pytorch版）代码实践 -循环神经网络-51序列模型
李思成的博客
07-06 333
【代码】动手学深度学习（Pytorch版）代码实践 -循环神经网络-51序列模型。
[深度学习]卷积理解
qq_43235540的博客
07-05 316
当输入有多个通道时,卷积核需要拥有相同的通道数. 假设输入有c个通道,那么卷积核的每个通道分别于相应的输入数据通道进行卷积,然后将得到的特征图对应元素相加,最终输出一个单通道的特征图, 它的数学表达式如下图所示.一个卷积核对应输入图像某一个特征,理论上卷积核数量越多,能够提取的特征越丰富.看这个的可视化就很好理解了。
深度学习（笔记内容）
最新发布
2301_78488802的博客
07-08 161
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple/pip install -i https://pypi.mirrors.ustc.edu.cn/simple/pip install -i http://mirrors.aliyun.com/pypi/simple/pip install -i https://pypi.douban.com/simple/pip使用阿里云的镜像源。pip使用清华源镜像源。
李宏毅2020机器学习笔记attention
08-12
在李宏毅的2020机器学习笔记中，有一个关于注意力机制(Attention)的部分。这部分内容主要介绍了生成模型(Generation)、注意力(Attention)、生成的技巧(Tips for Generation)以及指针网络(Pointer Network)。在生成...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值