Datawhale-李宏毅深度学习Day3

最新推荐文章于 2024-11-06 20:38:13 发布
最新推荐文章于 2024-11-06 20:38:13 发布
阅读量322 收藏
点赞数
分类专栏： 机器学习 文章标签： 深度学习 人工智能 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Spiceboyyy/article/details/126457566
版权

误差分解及梯度下降

误差分解

机器学习误差 Error的主要来源有两个,分别是偏差bias和方差variance。

梯度下降

梯度下降是一个最优化算法，用来递归性地逼近最小偏差模型。

xyuuuyx
关注
专栏目录
Datawhale-李宏毅深度学习Day6
Spiceboyyy的博客
08-28 279
卷积神经网络
Datawhale-李宏毅深度学习Day5
Spiceboyyy的博客
08-25 433
深度学习
Datawhale-李宏毅深度学习Day1
Spiceboyyy的博客
08-15 430
ml自学笔记
Datawhale-李宏毅深度学习Day4
Spiceboyyy的博客
08-22 240
深度学习及反向传播机制
Datawhale-李宏毅深度学习Day2
Spiceboyyy的博客
08-17 429
回归任务、寻找模型、过拟合现象及优化
李宏毅深度学习day one#Datawhale X 李宏毅苹果书 AI夏令营#
2301_80901708的博客
08-26 910
博主大二工科在读，学深度学习的目的在于训练机器识别魔方六面颜色并给予相应编号，优化魔方复原机器人的识别速度。同时为保研夏令营做准备。机器学习约等于让机器具备选择函数的能力机器学习的类别：回归(regression)、分类(classification)、结构化学习(structured learning)回归：输入一串数组，输出一个数值分类：类别由人类设定，由机器进行分拣。例如，邮箱中分为垃圾邮件和工作邮件结构化学习：让机器创造一个自带结构的东西，例如，图形结构，一篇文章。。具体还待学习书中以预测视频平台的
【李宏毅深度学习】局部极小值与鞍点 - Datawhale X 李宏毅苹果书 AI夏令营 Day1
m0_73906915的博客
08-22 256
在深度学习的优化过程中，局部极小值与鞍点是两个常见的“陷阱”，它们可能会阻碍模型的进一步优化，导致损失函数无法继续下降。深度学习的优化之路并非一帆风顺，局部极小值和鞍点是我们常遇到的挑战。了解并掌握这些概念与应对策略，将帮助你更好地训练深度学习模型，避免陷入优化的死胡同。，我们可以沿着特征值为负的方向更新参数，从而逃离鞍点，继续优化模型。这一过程相对复杂，实际中通常不会直接计算海森矩阵，而是采用其他优化策略，如。如果有正有负特征值，该临界点则为鞍点。因此，优化过程中更多时候遇到的是鞍点，而非局部极小值。
day1-李宏毅机器学习
啧啧怪的博客
09-13 329
目录心得体会一、hand-crafted rules二、三类学习方法三、迁移学习四、强化学习 心得体会 今天开始参加开源学习组织datawhale的组队学习--李宏毅机器学习，再次写一系列文章记录我的学习笔记与感悟。 李宏毅老师的讲课生动形象，中间自然而然穿插的英语让人听起来很舒服，有点口音也让人觉得课堂很有趣。初识机器学习，首先是机器学习的步骤（如何将大象放入冰箱？）第一个步骤就是找一个function，第二个步骤让machine可以衡量一个function是好还是不好，第三个步骤是让machine
Datawhale X 李宏毅苹果书 AI夏令营 - Day1
weixin_61443215的博客
08-26 238
方式：给parameter随意找两个点，w0和b0，使用梯度下降的方法不断向梯度为0的最小点移动，移动大小取决于学习度（learning rate）。方式：根据对过去已有的经验/数据 - 领域知识（domain knowledge）来预测未来的可能性，找出最接近现实的那个。- 鞍点（Saddle Points），过拟合（Overfitting），欠拟合（Underfitting）- 局部最小点v.s全局最小值：找到的梯度为0的可能只是局部最小点，而不是全局最小点。Loss function 为什么是负的？
台大-李宏毅-B站机器学习视频-课件.zip
09-30
台大-李宏毅-B站机器学习视频-课件.zip台大-李宏毅-B站机器学习视频-课件.zip台大-李宏毅-B站机器学习视频-课件.zip台大-李宏毅-B站机器学习视频-课件.zip台大-李宏毅-B站机器学习视频-课件.zip台大-李宏毅-B站机器...
李宏毅深度学习课件.rar
12-02
《李宏毅深度学习课程详解》 深度学习作为人工智能领域的重要分支，近年来在图像识别、自然语言处理、语音识别等领域取得了显著成就。李宏毅教授是国际知名的机器学习专家，他在深度学习领域的教学经验丰富，其课程...
Datawhale X 李宏毅苹果书 AI夏令营：《深度学习详解》
08-24
Datawhale X 李宏毅苹果书 AI夏令营：《深度学习详解》
Datawhale-2021年10月组队学习-李宏毅机器学习打卡
Timothy_Liuu的博客
10-11 326
Datawhale-2021年10月组队学习李宏毅机器学习打卡Task01 李宏毅机器学习打卡 Task01 参照开源文档，观看视频 P1-2：机器学习介绍 在视频P1中，李宏毅老师对机器学习进行了整体概括性的介绍。 相关概念的包含关系为：（人工智能（机器学习（深度学习））） 目前其实很多的人工智能并不是真实意义上的智能，而是“hand-crafted rules”，是由大量的if结构组成的，这样其实计算机是无法真正做到学习的行为，也就永远无法超越人类。我十分同意李宏毅老师的一个观点“机器学习发展，对比较
如何解决RNN在处理深层序列数据时遇到的如梯度消失、长期以来等问题
最新发布
m0_73640344的博客
11-06 493
这些技术各自以不同的方式解决了RNN在处理深层序列数据时遇到的关键问题，如梯度消失和长期依赖。选择哪种技术取决于特定任务的需求，包括模型的复杂性、训练时间和性能要求。通过适当选择和配置这些改进的RNN架构，可以显著提高序列数据处理任务的效果和效率。
实战| 使用深度学习分割和计算水体和农田面积【Pytorch附源码】
阿旭的博客
11-05 576
实战| 使用深度学习分割和计算水体和农田面积【Pytorch附源码】
《常用深度学习神经网络及其原理与应用场景》
m0_44975814的博客
11-02 1297
*常见损失函数**：损失函数用于衡量模型的预测结果与真实标签之间的差异。对于分类任务，常用的损失函数有交叉熵损失函数和对数似然损失函数等；对于回归任务，常用的损失函数有均方误差损失函数和平均绝对误差损失函数等。**自定义损失函数**：在某些情况下，可能需要根据具体的任务需求自定义损失函数。例如，在图像分割任务中，可以定义一个基于像素级别的损失函数以更好地衡量模型对图像的分割效果。
【果实种子识别】Python+深度学习+人工智能+CNN卷积神经网络算法+TensorFlow+算法模型训练
2301_78372746的博客
11-01 665
果实种子识别系统，使用Python语言进行开发，通过TensorFlow搭建卷积神经网络算法模型，对10种坚果果实（‘杏仁’, ‘巴西坚果’, ‘腰果’, ‘椰子’, ‘榛子’, ‘夏威夷果’, ‘山核桃’, ‘松子’, ‘开心果’, ‘核桃’）等图片数据集进行训练，得到一个识别精度较高的模型文件，让后使用Django搭建Web网页端界面操作平台，实现用户上传一张坚果图片 识别其名称。
【深度学习】batchsize太大或太小的优缺点，如何平衡batchsize大小
qq_42761751的博客
11-05 317
batchsize的值越大，梯度越稳定，而batchsize越小，梯度越具有随机性，如果batchsize太大，对内存的需求就更高，不利于网络跳出局部极小值点。大的batchsize梯度的计算更加稳定， 在微调的时候，大的batchsize可能会取得更好的结果，因为在一定范围内，batchsize越大，梯度下降方向越准，引起的震荡越小。当 batch size 增大时，每个批次中需同时加载的样本数增多，导致内存占用成倍增长，这会影响硬件资源的利用，特别是在 GPU 上。
一文快速预览经典深度学习模型（一）——CNN、RNN、LSTM、Transformer、ViT
ttrr27的博客
11-05 993
Hi，大家好，我是半亩花海。本文主要简要并通俗地介绍了几种经典的深度学习模型，如CNN、RNN、LSTM、Transformer、ViT（Vision Transformer）等，便于大家初探深度学习的相关知识，并更好地理解深度学习的基础内容，为后续科研开展建立一定的基础，欢迎大家一起交流学习。
李宏毅深度学习教程：深度学习基础与趋势
"李宏毅的深度学习教程PPT提供了300页的详细内容，涵盖了深度学习的基础技术，包括神经网络的变种、训练深度神经网络的技巧、深度学习的下一次浪潮等主题。课件中包含丰富的图片和公式推导，适合初学者和有一定基础...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值