DataWhale AI夏令营-深度学习笔记1

最新推荐文章于 2024-10-18 11:21:51 发布
最新推荐文章于 2024-10-18 11:21:51 发布
阅读量306 收藏 5
点赞数 10
文章标签： 人工智能 深度学习 笔记
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/2302_76539873/article/details/141600048
版权

第三章 深度学习基础

要想更好地优化神经网络，首先，要理解为什么优化会失败，收敛在局部极限值与 鞍点会导致优化失败。其次，可以对学习率进行调整，使用自适应学习率和学习率调度。最 后，批量归一化可以改变误差表面，这对优化也有帮助

3.1 局部极小值和鞍点

3.1.1 临界点及其种类

局部极小值：一般的学习任务之中梯度为零的时候大多数考虑的是局部最小值

鞍点：鞍点其实就是梯度是零且区别于局部极小值和局部极大值（local maximum）的点，梯度为零的点除了局部最小值之外还有一个梯度为零的点就是鞍点

3.1.2 判断临界值种类的方法

如果知道损失函数的形状就可以来判断一个临界点到底是局部极小值还是鞍点，虽然我们无法知道整个损失函数的形状，但是如果我们给定一组参数，可以求出其附近的损失函数

3.1.3 逃离鞍点的方法

如果我们在现在的维度上没有路可以走出去，可以考虑是否在更高维上是否有路可以走，我们可以增加一个参数，让我们的损失函数变成一个可以逃离鞍点的函数，多数的时候，我们训练到一个梯度很小的地方，参数不更新了，只是遇到了一个鞍点

Ideo-logue
关注
Datawhale AI夏令营-NLP方向-[基于术语词典干预的机器翻译挑战赛]-资料
07-16
Datawhale AI夏令营-NLP方向-[基于术语词典干预的机器翻译挑战赛]-资料
记一次：Datawhale AI夏令营-第四期-魔搭-AIGC-Task03 可图lora资源
08-15
记一次：Datawhale AI夏令营-第四期-魔搭-AIGC-Task03 可图测试资源
记一次：Datawhale AI夏令营-第四期-魔搭-AIGC-Task03 可图测试资源
08-15
记一次：Datawhale AI夏令营-第四期-魔搭-AIGC-Task03 可图测试资源
【Datawhale AI 夏令营第三期学习笔记Taks1】 跑通baseline #Datawhale AI 夏令营
07-28
【Datawhale AI 夏令营第三期学习笔记Taks1】 跑通baseline #Datawhale AI 夏令营
DINO&DINO v2：颠覆自监督视觉特征表示学习
家鸽的代码屋
10-15 1100
DINO系列学习总结
目标检测系统中需要【重新训练模型】说明
2401_85556416的博客
10-13 453
打开"ultralytics\cfg\datasets\SODA10M.yaml"文件。将SODA10M.yaml的第一行数据集路径修改为自己数据集路径。以【基于YOLOv8的车辆行人目标检测系统】训练为例进行说明。训练模型的权重保存路径在"runs\detect\train\weights"目录下。给出的项目中已包含训练好的模型以及训练的结果，可直接使用。（3）运行main_model_train.py程序。（1）如果环境还没有搭建好的，首先要搭建训练环境。（4）训练模型保存路径。
AI大模型带来哪些创业机遇？
金木编程
10-16 401
低代码开发平台：创业者可以构建基于大模型的低代码或无代码平台，帮助用户快速生成应用程序、自动化工作流程，尤其是为中小企业提供高效的数字化转型方案。数据治理工具：帮助企业管理和优化大数据集，确保数据的质量、安全性和隐私保护，特别是在医疗、金融等对数据合规性要求较高的领域。自动化写作：为市场营销、新闻、广告、社交媒体等行业开发自动内容生成工具，帮助企业快速生成高质量的文案、广告词和新闻稿。AI 艺术生成：通过大模型生成数字艺术作品、视频剪辑、音乐，帮助创作者快速创作，并提供创意工具给个人和企业用户。
新质技术之生成式AI、大模型、多模态技术开发与应用研修班
Lynn121的博客
10-17 552
在当前的科技飞速发展的时代，生成式人工智能、大模型、多模态技术的出现正为企业的数字化转型带来革命性变革。该研修班特别设计了为期四天的课程，从生成式AI的核心概念入手，逐步深入探讨大模型的应用开发以及多模态技术的集成运用。通过此次研修班，学员不仅能获得最新的AI技术知识，还能获得行业权威机构的职业技能认证，这将极大提升其在未来职场中的竞争力。本次研修班采取理论与实战相结合的培训模式，旨在让学员不仅能够全面掌握生成式AI、大模型和多模态技术的最新理论，还能通过实战练习，掌握将这些技术应用于实际业务。
最近AI产品开发的热点在什么领域？
最新发布
m0_46568584的博客
10-18 1134
更贴合人类的思考方式：去年，不管是ChatGPT还是通义千问、KIMI等，经常会遇到问着问着他就“傻”了，开始答非所问，就我个人使用而言，从今年下半年开始，模型越来越聪明，他会给我提供一些新奇的想法，而且还会先我一步思考。AI产品开发中，搜索领域已成为炙手可热的焦点，背后的原因还是很值得说一说的。《黑神话：悟空》不仅在短短3天内销量突破1000万套，成为有史以来最快达到这一销售里程碑的单机游戏之一，更重要的是，它展现了AI技术在游戏领域带来的巨大潜力，包括AI驱动的NPC、AI生成的场景、AI辅助开发等。
计算机毕业设计Python深度学习房价预测 房源可视化 房源爬虫 二手房可视化 二手房爬虫 递归决策树模型 机器学习 深度学习 大数据毕业设计
全网粉丝100W+、全栈领域优质创作者、B站、github、CSDN等社区技术专家、专注于高端精品毕业项目源码实战
10-18 574
计算机毕业设计Python深度学习房价预测 房源可视化 房源爬虫 二手房可视化 二手房爬虫 递归决策树模型 机器学习 深度学习 大数据毕业设计
大数据与人工智能在金融风险控制中的应用
2405_87249521的博客
10-16 1082
通过对海量数据的实时分析和智能化的预测模型，金融机构能够更准确地识别潜在风险，采取适当的防范措施，从而提升金融市场的稳定性和安全性。传统的信用评估主要依赖于财务报表和历史信用记录，而大数据技术可以结合客户的社交媒体行为、购物习惯、互联网搜索记录等非结构化数据，为风险评估提供更全面的视角。同时，AI还能够自动识别潜在的合规风险，减少人工审核的压力。大数据与人工智能在金融风险管理中有着广泛的应用场景，从信用评估、市场风险分析，到反欺诈和监管合规，都可以利用这些技术来提升风险控制的效率和准确性。
骨架提取（持续更新）
xiongmaowangd的博客
10-13 730
骨架提取是图像处理或计算机视觉中的一种技术，用于从二值化图像中提取物体的中心线或轮廓，通常称为“骨架”或“细化图像”。这一技术主要用于简化形状表示，同时保留物体的拓扑结构。这里我们强调了，是对二值化图像中进行提取。
OpenCV答题卡识别
2301_77698138的博客
10-13 774
import cv2rect = np.zeros((4, 2), dtype='float32') # 用来存储排序之后的坐标位置# 按顺序找到对应华标0123分别是左上，右上，右下，左下# 变换后对应坐标位置M = cv2.getPerspectiveTransform(rect, dst) # 计算从原始四边形到目标矩形的透视变换矩阵 M。
通义灵码：AI 编码的强大助力
jiandanfeng2的专栏
10-14 928
通义灵码是阿里云推出的智能编码辅助工具，以通义大模型为基础，提供多种强大功能助力开发者高效编码。通义灵码集成了行级 / 函数级实时续写、自然语言生成代码、单元测试生成、代码注释生成、代码解释、研发智能问答、异常报错排查等能力。例如，在编码过程中，根据当前语法和跨文件的代码上下文，实时生成行、函数建议代码，极大地提升了编码的连续性和流畅性。通过自然语言描述功能需求，可直接在编辑器区生成代码，让编码过程更加直观便捷。
LeNet-5（论文复现）
wei_shuo的博客
10-11 1257
LeNet-5（论文复现）
ai搜索工具免费的有那些？这几年搜索都发生了哪些变化？
10-16 356
AI对搜索的影响 根据360的搜索相关数据知道2019年到2024年的大家的搜索发生了很多的变化！要说疯狂的就属于AI工具了，以前搜索内容有广告自己只能眼巴巴的看着，现在不少人的搜索行为都有所变化，经过自己测试也给大家推荐一些自己使用的AI搜索工具毕竟免费。AI对传统搜索影响在传统的搜索当中不仅要忍受广告的侵扰，而且搜索内容比较模糊，需要用户自己评估。AI写作MAX一个小众的搜索工具，和秘塔有所相似也会根据用户提出的需求，进行全网搜索，在汇总后给用户答案，还给出来了相关来源。2：AI写作MAX-AI搜索。
使用 YOLOv11 进行 健身辅助，动作计数，动作矫正 -- AI 俯卧撑计数，AI 引体向上计数
shiter编写程序的艺术
10-16 156
主要是通过区分up 和down 来区分 是否完成了一整个step。
fmcw雷达人体感应开关模块，低功耗、高灵敏度，人脸识别锁新体验
m0_59195407的博客
10-15 852
无论是在光线昏暗的卧室，还是在复杂的家庭环境中，fmcw雷达人体感应开关模块都能准确感知到人体的活动，从而自动控制灯光、空调等设备的开关，实现智能家居的自动化和智能化。近年来，随着技术的不断突破和成本的降低，fmcw雷达也逐渐走进了智能家居领域，为我们的生活带来了前所未有的便捷和舒适。随着科技的不断进步和智能家居技术的不断发展，我们相信fmcw雷达人体感应开关模块与人脸识别锁的结合将会带来更加智能、安全、便捷的家居生活体验。它利用先进的人脸识别技术，通过对人脸特征的精准识别，实现对家居安全的全方位守护。
高效的AI写作工具有哪些？
专注AI大模型,软件混淆,授权
10-16 538
AI写作工具已经成为现代写作者的重要助手，能够大幅提升工作效率，帮助优化内容质量。从Grammarly的语言润色、ChatGPT的多功能写作，到Copy.ai和Writesonic在市场文案中的应用，这些工具都为不同的写作需求提供了创新和便利。根据具体需求，选择适合的AI工具能够极大提升写作效果和效率。
深度学习框架DeepStream-App解读与个人笔记分享
1. 人工智能:人工智能(AI)是指由人造系统所表现出来的智能行为，其目标是生产出一种新的能以人类智能相媲美的人工系统。在本笔记中，极智AI部分可能涉及到深度学习、机器学习等AI领域的知识。 2. deepstream-app:...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值