神经网络与深度学习--学习笔记（四）

最新推荐文章于 2024-07-25 22:26:10 发布
最新推荐文章于 2024-07-25 22:26:10 发布
阅读量48 收藏
点赞数
文章标签： 深度学习 神经网络 学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/hitLOGIC/article/details/130237883
版权

7. 循环神经网络与NLP

7.1数据处理基础

数值特征与类别特征

文本处理

第一步：文本切分 (tokenization)

第二步：统计词频

 创建一个字典 (实际中经常使用Hash 表) 进行词频统计

初始字典为空

 遍历文本，并按如下更新字典：

如果单词不再字典中， 加入该单词 (𝑤, 1)

否则将其词频加1

 直到完成整个遍历

按照词频降序进行排序

将词频索引化

如果词汇太多，则只保留排序在前 的k个单词 (如取𝑘 = 10000)

第三步：独热编码

7.2RNN模型

 

7.3LSTM模型

 

 

 

 

 

hitLOGIC
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
吴恩达神经网络和深度学习笔记
01-09
这份压缩包文件“deeplearning_ai_books-master”似乎包含了吴恩达这门课程的全部笔记，覆盖了从第一门课到第五门课的内容，以及相关的论文和数据，对于深入理解神经网络和深度学习的理论与实践非常有帮助。...
TensorFlow深度学习笔记TensorFlow实现与优化深度神经网络
01-27
1.加载lesson1中的数据集2.将Data降维成一维，将label映射为one-hotencoding1.使用梯度计算train_loss，用tf.Graph()创建一个计
神经网络深度学习小土堆笔记
06-22
神经网络深度学习小土堆笔记
2021版吴恩达深度学习课程笔记-神经网络
11-16
平板手写，课程见B站（https://www.bilibili.com/video/BV12E411a7Xn?p=1）
基于深度学习的商品推荐
weixin_42605076的博客
07-22 921
基于深度学习的商品推荐系统利用深度学习技术对用户的行为和商品的特征进行分析和建模，从而向用户推荐最相关的商品。这类系统在电子商务、社交媒体和内容推荐等领域中具有广泛应用。
昇思25天学习打卡营第21天|RNN实现情感分类
人工智能视觉分析算法学习实践和经验分享。
07-21 667
Mindspore框架循环神经网络RNN模型实现情感分类|（一）数据集准备Mindspore框架循环神经网络RNN模型实现情感分类|（二）RNN模型Mindspore框架循环神经网络RNN模型实现情感分类|（三）模型训练与推理tips:安装依赖库。
从零开始：构建基于深度学习的实时跌倒检测系统（UI界面+YOLO代码+数据集）
a871923942的博客
07-22 781
系统主要由前端UI、后端服务器和YOLO模型组成。用户通过UI上传视频，服务器调用YOLO模型进行检测，并将结果返回给用户。| 前端UI | <----> | 后端API | <----> | YOLO检测模型 |YOLO（You Only Look Once）是一种高效的实时目标检测模型。YOLOv5、YOLOv6、YOLOv7、YOLOv8均为其不同版本，提供不同的性能和速度。
基于深度学习的社交网络分析
weixin_42605076的博客
07-25 816
基于深度学习的社交网络分析（Social Network Analysis, SNA）是利用深度学习技术对社交网络中的结构、模式和用户行为进行分析和理解。这一领域广泛应用于用户推荐、情感分析、社区检测、信息传播和隐私保护等方面。
深度学习 —— 个人学习笔记6（权重衰减）
Springer的博客
07-22 389
本文章为个人学习使用，版面观感若有不适请谅解，文中知识仅代表个人观点，若出现错误，欢迎各位批评指正。文中部分知识参考：B 站 —— 跟李沐学AI；
05 循环神经网络
最新发布
weixin_43490087的博客
07-25 802
介绍了循环神经网络RNN的概念，以及简单循环神经网络SRN、长程依赖问题、RNN的架构及参数学习，还介绍了基于门控的循环神经网络和深层循环神经网络。
深度学习中的损失函数和网络优化方法
2301_77539454的博客
07-22 902
损失函数（Loss Function），又称为代价函数或目标函数，是衡量模型预测值与真实值之间差异的函数。它为模型训练提供了优化的方向，通过最小化损失函数来调整模型参数。梯度优化方法是深度学习中用于训练神经网络的核心算法，其目的是通过迭代调整网络参数，最小化损失函数，从而提高模型的预测准确性。梯度优化方法的重要性在于它们直接影响到模型的训练效率和最终性能。定义：梯度优化方法利用损失函数对模型参数的梯度信息来指导参数更新的方向和幅度。梯度是一个向量，其分量是损失函数对每个参数的偏导数，指向损失增加最快的方向。
【深度学习】yolov8-det目标检测训练，拼接图的分割复原
q742971636的博客
07-22 480
似乎这个任务是简单的，利用目标检测是否可以完成得好呢?
转置卷积方法
qq_58317297的博客
07-22 180
1、卷积神经网络层通常会减少（或保持不变）采样输入图像的空间维度（高和宽），另一种类型的卷积神经网络层，它可以增加上采样中间层特征图的空间维度， 用于逆转下采样导致的空间尺寸减小。（1）卷积做下采样(减少特征图的空间分辨率的过程)，转置卷积做上采样(增加特征图的空间分辨率)。#卷积输出尺寸是(x-h)/s+1，(x-w)/s+1。2、转置卷积（感觉就是卷积的反过来）也是一种卷积。实现基本的转置卷积运算。2、填充、步幅和多通道。
16现代循环神经网络—深度循环与双向循环
kaszxc的博客
07-22 438
深度循环神经网络使用多个隐藏层来获得更多的非线性性GRU、RNN、LSTM 在结构上都是相同的，只是隐状态 H 的计算方式有区别，所以它们加深神经网络的原理都是相同的在深度循环神经网络中，隐状态的信息被传递到当前层的下一时间步和下一层的当前时间步存在许多不同风格的深度循环神经网络，如长短期记忆网络、门控循环单元或经典循环神经网络深度循环神经网络需要大量的调参（如学习率和修剪）来确保合适的收敛，模型的初始化也需要谨慎双向循环神经网络通过反向更新的隐藏层来利用方向时间信息。
全面解析：构建基于深度学习的安全帽检测系统（UI界面+YOLO代码+数据集）
a871923942的博客
07-22 1373
系统主要由前端UI、后端服务器和YOLO模型组成。用户通过UI上传现场图像，服务器调用YOLO模型进行检测，并将结果返回给用户。| 前端UI | <----> | 后端API | <----> | YOLO检测模型 |YOLO（You Only Look Once）是一种高效的实时目标检测模型。YOLOv5、YOLOv6、YOLOv7、YOLOv8均为其不同版本，提供不同的性能和速度。
【深度学习基础】模型过拟合
Small__明的博客
07-21 617
深度学习之过拟合 文章目录深度学习之过拟合过拟合&欠拟合导致过拟合的原因解决过拟合的方法正则化数据增广加噪声多任务学习Early StoppingDropout对抗训练总结 过拟合&欠拟合 过拟合：在训练集上表现很好，但在测试集上表现不佳。 欠拟合：训练集上表现不行，测试集上表现也不行。 导致过拟合的原因 1、模型太复杂：模型过于复杂，以至于可以完全记住训练集上的数据，不需要去学习。 2、数据不够多：数据少，容易被记住。 解决过拟合的方法 正则化 数据增广 增加训练集的数据。 例如：一张图
深度学习 —— 个人学习笔记5（模型选择、欠拟合和过拟合）
Springer的博客
07-21 985
将数据放入 CUDA 后，‌没有出现过拟合的原因可能在于 CUDA 的使用有助于提高计算效率和数据处理速度，‌从而使得模型训练过程更加高效。‌通过使用 CUDA，‌可以加速模型的训练过程，‌减少训练时间，‌这在某种程度上可能有助于避免过拟合。‌使用 CUDA 进行计算可以加快模型的训练速度，‌使得模型能够更快地收敛到一个较好的解决方案，‌这在一定程度上减少了模型在训练数据上过度拟合的风险。‌此外，‌CUDA 的使用还可以提高模型的计算精度和性能，‌进一步减少过拟合的可能性。
【深度学习】大模型中的LoRA的重要参数理解，dim维度和lora_alpha
q742971636的博客
07-23 633
"gaussian""pissa"False：指定要应用LoRA的模块，可以是具体的层名称或使用“all-linear”应用于所有线性层。常用于QLoRA风格的训练。：用于缩放每个前向传递中的适配器的固定标量，通常与rank相关联。：用于层复制以扩展模型，例如将一个7B模型扩展到10B。指定复制的层序列，例如表示复制第0到第4层和第2到第5层。：是否使用Rank-stabilized LoRA，用于稳定适配器并提高性能。True。
吴恩达深度学习课程笔记：神经网络与深度学习解析
"神经网络与深度学习中文版笔记，由黄海广主编，包含了吴恩达在DeepLearning.ai平台上开设的五门课程的详细笔记，包括深度学习基础、改善深层神经网络、结构化机器学习项目、卷积神经网络和序列模型。笔记带有书签，...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值