飞桨学习篇（8.19）

最新推荐文章于 2024-11-07 21:37:04 发布

想认真写代码

最新推荐文章于 2024-11-07 21:37:04 发布

阅读量132

点赞数

文章标签：深度学习

本文链接：https://blog.csdn.net/m0_49608100/article/details/108113686

版权

8.19学习笔记

1.激活函数：在卷积或者全连接这样的线性操作之后，会加上一个非线性的函数，作用于每一个神经元的输出上从而实现非线性变换

1)Sigmoid

2)ReLU

2.批归一化BatchNorm：提升数值的稳定性

对中间层的输出做标准化，可以保证在网络学习的过程中，网络层的输出具有稳定性的分布

快速学习；降低模型对初始值的敏感性；从一定程度上抑制过拟合

模型收敛：需要稳定的数据分布

输入数据和中间层进行标准化

3.丢弃法Dropout:抑制过拟合的方法

训练阶段：每次随机删除一部分神经元，不向前传播所携带的信息，每次是不同的模型学习

测试阶段：向前传播所有神经元的信息，相当于让这些不同的模型一起工作

两种解决方法：

downgrade_in_infer（paddle默认）训练时随机丢弃一部分神经元，预测不丢弃神经元，但把他们数值变小
upscale_in_train 训练时随机丢弃一部分神经元，但是把保留的那些神经元数值放大，预测时原样输出所有神经元的信息

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

想认真写代码

关注关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫

大兵插件8.19.0105

09-21

它包含了每个函数的名称、参数、返回值、使用示例以及注意事项，是学习和掌握大兵插件的重要参考资料。通过阅读这份文档，用户能够更好地理解和利用插件提供的各种功能，解决实际开发中的问题。四、应用场景大兵...

人民币兑换学习教案.pptx

09-30

1. **汇率概念**：汇率是指不同国家货币之间的兑换比率，例如1美元兑换6.31元人民币，1欧元兑换8.19元人民币等。这是进行货币兑换的基础。 2. **应用问题的解决**：通过具体的案例，如美国小朋友皮特寄给小红的故事...

参与评论您还未登录，请先登录后发表或查看评论

随机森林8.19.py

09-14

随机森林8.19.py

winsxs8.19.rar

01-23

标题中的“winsxs8.19.rar”是一个压缩文件，很可能包含了用于清理Windows操作系统中winsxs文件夹的工具。winsxs文件夹是Windows系统的重要组成部分，它存储了系统组件和服务的关键文件，包括系统dll（动态链接库）...

8.19can4.zip

09-02

通过分析这个代码库，开发者可以学习如何在STM32F427上正确配置和使用CAN接口，这对于任何涉及嵌入式系统通信的项目都至关重要。同时，理解并运用这些知识能够帮助他们解决实际工程中的通信问题，提高系统的可靠性和...

如何解决RNN在处理深层序列数据时遇到的如梯度消失、长期以来等问题

m0_73640344的博客

11-06

413

这些技术各自以不同的方式解决了RNN在处理深层序列数据时遇到的关键问题，如梯度消失和长期依赖。选择哪种技术取决于特定任务的需求，包括模型的复杂性、训练时间和性能要求。通过适当选择和配置这些改进的RNN架构，可以显著提高序列数据处理任务的效果和效率。

门控循环单元GRU

m0_61595251的博客

11-04

511

并不是真正的隐藏状态，而是候选的隐藏状态。假设不看，类似于之前的RNN计算隐藏层但现在加入了一个，用代表对元素进行乘法；因为和的长度相同，可以按元素做乘法且值域在（0，1）之间，假设中的元素更靠近“0”，那么运算后的结果更靠近“0”，等于把上一时刻的隐藏状态忘记；假设中的元素更靠近“1”，那么运算结果更靠近“1”，等价于RNN做运算的结果。可以根据前面的信息进行学习，决定信息可以丢弃或保留，是一个控制单元，被称为"门"。因为值域在（0，1），代表可以在（0，1）之间做比较软的控制。

sdnet

yyfhq的博客

11-04

366

########################## 空间注意力机制 ###########################running_loss += loss.item() # 累加损失以计算平均损失。# 实例化学习率调度器 #diff 添加学习率调度器。# 使用 kaiming_normal_ 进行初始化。# 实例化学习率调度器 #diff 添加学习率调度器。# 注册钩子 #diff 注册前向钩子以提取特征图。# 实例化模型、损失函数和优化器。# 重新实例化模型以确保权重是新的。

【语义分割|代码解析】CMTFNet-4: CNN and Multiscale Transformer Fusion Network 用于遥感图像分割！

985小水博的摸鱼日常

11-03

862

【语义分割|代码解析】CMTFNet-4: CNN and Multiscale Transformer Fusion Network 用于遥感图像分割！

深度学习基础知识-全连接层

lqq

11-04

1089

全连接（Fully Connected，简称 FC）层是深度学习神经网络中一种基本的层结构。它主要用于神经网络的最后几层，将高层特征映射到输出空间中。全连接层对数据的每个输入节点与每个输出节点进行连接，用于实现输入特征和输出结果之间的映射关系。以下是对全连接层的详细解释。

《深度学习》——深度学习基础知识（全连接神经网络）

qq_59702185的博客

11-07

676

在介绍神经网络之前，我们先看下面这幅图：人工智能>机器学习>深度学习深度学习是机器学习的⼀个⼦集，也就是说深度学习是实现机器学习的⼀种⽅法。与机器学习算法的主要区别如下图所示：传统机器学习依赖于人工设计特征，并进行特征提取，而深度学习算法不需要人工，而是依赖算法自动提取特征，这也是深度学习被看做黑盒子、可解释性差的原因。卷积神经网络（CNN）循环神经网络（RNN）生成对抗网络（GAN）深度强化网络（DRN）

深度学习（十）：伦理与社会影响的深度剖析（10/10）

小相探索IT世界

11-03

1622

深度学习作为一项强大的技术，在带来诸多益处的同时，也引发了一系列伦理和社会问题。在伦理方面，数据隐私、偏见以及责任归属等挑战亟待解决。我们需要借鉴成功的法规案例，如欧盟的 GDPR，加强数据管理和隐私保护，努力消除算法偏见，并建立明确的责任归属机制。在社会影响方面，自动化虽然对传统职业造成冲击，但也创造了新的职业机会。个人、社会和教育机构都应积极应对，提升技能和加强人才培养，以适应就业结构的变化。

吴恩达深度学习笔记：卷积神经网络（Foundations of Convolutional Neural Networks）4.9-4.10

weixin_43597208的博客

11-07

705

这将得到这两个矩阵之间的误差，因为它们是矩阵，所以在这里加一个𝐹（Frobenius 范数，编号 1 所示），这实际上是计算两个矩阵对应元素相减的平方的和，我们把这个式子展开，从𝑘和𝑘′开始作它们的差，把对应的式子写下来，然后把得到的结果都加起来，作者在这里使用了一个归一化常数，也就是。为了能捕捉图片的风格，你需要进行下面这些操作，首先，先看前两个通道，前两个通道（编号 1、2）分别是图中的红色和黄色部分，那我们该如何计算这两个通道间激活项的相关系数呢？

深度学习：Yolo V4的改进

mohanyelong的博客

11-04

746

深度学习：Yolo V4的改进

CoEdge: 面向自动驾驶的协作式边缘计算系统，实现分布式实时深度学习任务的高效调度与资源优化

soaring_casia的专栏

11-04

823

CoEdge 系统适用于多个分布式实时应用场景，包括智能交通基础设施、自动驾驶、智能港口和工厂等数据密集型任务。例如，在智能道路基础设施中，CoEdge 系统通过多个配备了传感器的智能灯杆进行协作，实现实时的交通监控和基础设施支持的自动驾驶。每个灯杆通常配备热成像相机、毫米波雷达和 LiDAR 等多种传感器，但这些边缘节点的计算和功率受限，使得在不进行重大升级的情况下，仅能提供数十瓦的固定电源供给，这在大规模边缘系统中尤为常见。

【新闻文本分类识别】Python+CNN卷积神经网络算法+深度学习+人工智能+机器学习+文本处理

2301_78372746的博客

11-01

513

文本分类识别系统。本系统使用Python作为主要开发语言，首先收集了10种中文文本数据集（“体育类”, “财经类”, “房产类”, “家居类”, “教育类”, “科技类”, “时尚类”, “时政类”, “游戏类”, “娱乐类”），然后基于TensorFlow搭建CNN卷积神经网络算法模型。通过对数据集进行多轮迭代训练，最后得到一个识别精度较高的模型，并保存为本地的h5格式。然后使用Django开发Web网页端操作界面，实现用户上传一段文本识别其所属的类别。

图像边缘算法复现研究

程序猿追的博客

11-04

129

它首先对图像进行平滑处理以消除噪声，然后对平滑后的图像求一阶偏导得到图像梯度的幅值和方向，接着进行非极大值抑制处理初步得到边缘点，最后使用两个阈值确定强边缘和弱边缘，只有当弱边缘与强边缘连接时，弱边缘才会输出。：准确的边缘检测能够提取出图像中更清晰、更准确的边缘信息，从而提高后续图像分析任务的准确性。在图像分割中，边缘信息可以作为分割的重要依据，提高分割的精度和效果。例如，在去除图像噪声的同时保留边缘信息，可以提高图像的视觉质量和清晰度，使图像更符合实际应用的需求。

深度学习：NAT Decoder 详解

m0_73640344的博客

11-06

291

非自回归转换器（Non-Autoregressive Transformer, NAT）解码器是一种特殊类型的解码器，设计用来在序列生成任务中加速输出的生成过程。与传统的自回归解码器（如上文所述的AT解码器）不同，NAT解码器可以并行生成整个输出序列，而不是逐个字符地生成。这种并行性显著提高了解码速度，尤其适用于对响应时间要求极高的应用场景。

从0开始深度学习（26）——汇聚层/池化层