Datawhale X 李宏毅苹果书 AI夏令营 第三章

最新推荐文章于 2024-09-30 14:16:32 发布
最新推荐文章于 2024-09-30 14:16:32 发布
阅读量302 收藏
点赞数 4
文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zql200607/article/details/141504735
版权

3.1临界点

梯队下降失效，梯度为零的点

局部最小值（local minima）

局部最大值（local maxima）

鞍点（saddle point）

3.1.2判断

海森矩阵

目前数理基础还不够，先理解比较L（θ）与L（θ‘）的关系来判断三者区别

3.1.3逃离鞍点

区分局部最小值与鞍点

利用最小值比例，一半上升一半下降

具体怎么找方向不大懂

zql200607
关注
Datawhale X 李宏毅苹果书 AI夏令营 进阶班 选修笔记
09-03
运行结果
Datawhale X 李宏毅苹果书 AI夏令营 入门班选修3
09-03
结果prediction
Datawhale X 李宏毅苹果书 AI夏令营task1笔记
scipig_的博客
08-22 990
本章主要介绍深度学习常见的一些概念，方便我们从不同的角度来更好地优化神经网络。
Datawhale X 李宏毅苹果书 AI夏令营 Task2
weixin_52691220的博客
08-28 589
如果是前两天前四天前五天，它的值会跟未来要预测的，隔天的值是成反比的，所以后面接个都是负数。PS. 所以这边每一个式子都代表了一个不同蓝色的函数，求和就是把不同的蓝色的函数相加，，所以在有看过的数据上，在训练数据上，误差值是比较小的，在没有看过的数据上，在2021。到拿来当作预测的结果，也许预测的会更准也说不定，所以我们就要修改一下模型。坡度的起始点设的跟红色函数转折点一样，蓝色函数的斜率设的跟红色函数斜率一样，接下。考虑了比较多的信息，在训练数据上应该要得到更好的、更低的损失。
Datawhale X 李宏毅苹果书 AI夏令营（Task2）
mengluohuayexuan的博客
08-27 1198
根据GPU是否可用选择设备类型# 初始化模型，并将其放置在指定的设备上# 定义批量大小# 定义训练轮数# 如果在'patience'轮中没有改进，则提前停止# 对于分类任务，我们使用交叉熵作为性能衡量标准# 初始化优化器，您可以自行调整一些超参数，如学习率。
Datawhale X 李宏毅苹果书 AI夏令营 第三章笔记
weixin_43728235的博客
08-27 559
深层网络有时候的表现并不如浅层网络与线性模型，没有发挥出深层网络的最大潜力，这是在优化上出现了问题。具体表现就是训练过程中，参数在改变，损失函数并不下降。优化过程中，碰到损失对参数微分为零的点，既梯度为零的点，可能是极小值点，也可能是鞍点。是海森矩阵，其实就是一元泰勒展开的二次项。这个式子本质上是多元函数的泰勒展开近似，的特征值有正有负，临界点是鞍点。,临界点是局部极小值。,临界点是局部极大值。的所有特征值都是正的，的所有特征值都是负的，
Datawhale X 李宏毅苹果书 AI夏令营(深度学习入门)taks2
m0_55703957的博客
08-24 814
这里我们先设未知参数，按行拼接后的一个长向量称为接下来要定义损失。之前是 L(w, b)，因为 w 跟 b 是未知的。现在未知的参数很多了，再把它一个一个列出来太累了，所以直接用 θ 来统设所有的参数，所以损失函数就变成 L(θ)。损失函数能够判断 θ 的好坏，其计算方法跟刚才只有两个参数的时候是一样的。先给定 θ 的值，即某一组 W, b,, b 的值，再把一种特征 x 代进去，得到估测出来的 y，再计算一下跟真实的标签之间的误差 e。把所有的误差通通加起来，就得到损失。接下来下一步就是优化。
Datawhale X 李宏毅苹果书 AI夏令营 第三章深度学习基础
miaowu2266的博客
08-26 958
Datawhale夏令营学习笔记
【Datawhale X 李宏毅苹果书 AI夏令营】深度学习入门&个人学习笔记
Blizzarder_的博客
08-27 292
机器学习的核心目标是让机器具备学习并找到描述数据之间关系的函数的能力。
Datawhale x李宏毅苹果书入门 AI夏令营 task02学习笔记
weixin_75033552的博客
08-26 542
红色的曲线可以看作是一个常数再加上一群 Hard Sigmoid 函数。（Hard Sigmoid 函数的图线就是蓝色图线）黑色的可以由红色线无限逼近，当取的点够多，黑色的就可以用红色的表示，而红色的又可以由蓝色组成，则黑色的可以用蓝色的表示，即曲线可以由Hard Sigmoid 函数图像表示但是Hard Sigmoid 函数表示比较麻烦（Hard Sigmoid 函数是分段函数要写三个分式），所以用 Sigmoid 函数来逼近 Hard Sigmoid，（Hard Sigmoid 不一定非要换成Sigmo
Datawhale X 李宏毅苹果书 AI夏令营-深度学习入门班-task2
qingqing2的博客
08-28 831
时间，就会有两天的低点，在低点的地方，机器的预测还算是蛮准确的，机器高估了真实的观看人次，尤其是在红圈标注的这一天，这一天有一个很明显的低谷，但是机器没有预测到这一。型在训练数据上面，有没有学起来，再去看测试的结果，如果训练数据的损失很大，显然它在。可以增加输入的特征，本来输入的特征只有前一天的信息，假设要预测接下来的观看人数，用。横轴指的是训练的过程，就是参数更新的过程，随着参数的更新，损失会越来越低，但是结果。是真实的数据，蓝色的线是预测出来的数据在这种低点的地方啊，看红色的数据是每隔一段。
Datawhale X 李宏毅苹果书 AI夏令营：《深度学习详解》
08-24
Datawhale X 李宏毅苹果书 AI夏令营：《深度学习详解》
Datawhale X 李宏毅苹果书 AI夏令营：TASK2+CNN实践, pytorch，数据增强，可视化
08-26
Datawhale X 李宏毅苹果书 AI夏令营：TASK2+CNN实践, pytorch，数据增强，可视化
[论文精读]AI-Guardian: Defeating Adversarial Attacks using Backdoors
m0_52911108的博客
09-27 1172
本文提出了AI-Guardian框架，本质是让模型预测结果受到后门控制，而很难被攻击者操纵，从而抵御对抗攻击。在模型训练阶段，AI-Guardian会针对原始训练样本生成一批后门样本（经过后门处理的样本），按标签双射关系为后门样本分配对应标签，实现后门注入；在模型预测阶段，AI-Guardian先对输入数据进行后门处理，然后将其输入到模型，根据模型输出结果、标签双射关系返回对输入数据真实标签的预测结果。
Linux嵌入式有发展吗，以及对uboot，kernel，rootfs的领悟
rjszcb的博客
09-30 462
上一份工作是2022,11—2023，11年底，汽车公司，底层修修改改，编译镜像，修改后，客户给东西，重新编译给他，客制化配置启动参数，环境，支持应用部门，不懂怎么使用某些驱动。uboot到底是干嘛的，想想，emmc的镜像文件是怎么被读到ddr的，emmc为啥可以被分区，烧录镜像，tftp网络命令为啥可以运行，启动设备时，为啥lcd可以看到图像，kernel还没启动，怎么出图像的。不管做应用开发，驱动开发也好，知道，系统原理，驱动框架，进程管理调度，内核竞争，信号，中断，锁，这些就够了。
Python精选200Tips：171-175
AnFany
09-26 1264
Python深度学习的项目
遥感影像-实例分割数据集：iSAID 从切图到YOLO格式数据集制作详细介绍
最新发布
GIS潮流
09-30 650
开源数据集isaid标注包含实例分割，但是原始影像太大，很吃显存，一般显卡无法用原始影像直接训练，所以需要对影像进行裁剪，并生成对应的标签，因为想用yolo系列跑模型，所以将标签需要转为txt格式。
Her来了，OpenAI正式发布高级语音模式
shadowcz007的博客
09-25 491
OpenAI宣布将Advanced Voice Mode（AVM）扩展到更多付费用户，包括ChatGPT的Plus和Teams用户。该功能旨在使ChatGPT的语音交互更加自然，并新增五种新声音和改进的口音识别能力。虽然Sky声音因法律争议被移除，但AVM的整体设计和性能得到了提升。新版本不仅能在用户打断时立即停止回答，还能根据用户语音中的情感调整响应。此外，视频和屏幕共享功能暂未推出。AVM目前...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值