22.1-RNN\LSTM学习-基础篇

最新推荐文章于 2024-10-07 14:35:19 发布
最新推荐文章于 2024-10-07 14:35:19 发布
阅读量868 收藏
点赞数
分类专栏： 22.1-数据科学学习（寒假） 文章标签： lstm rnn 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_51117061/article/details/122767755
版权

Q1：sequence,Tokenizer的差异

 Q2：Tokenizer(xx),xxtext_to_sequences(xx)
xx.pad_sequences

 Q3：这里边batch_size和epoches的含义？

 Q2.1:padding是干什么的？
Q2.2：padding对应的是什么》怎么分句的》

 Q3embdding 转换为词向量？

 Q4：一个词一个层吗？那长文本不得完蛋

 

 Q5.1：相比于之前的神经网络呢？为什么权重是一样别的？那这里边层级的概念是什么？

 Q6:终于看到RNN的几个变体了，这里边的层级跟刚刚看到的单元有什么区别？这个单元跟我们所说的普通神经网络又有什么区别？

Q7：这里边LSTM增加了什么记忆单元，梯度怎么就消失了

 Q8：主要是看GRU和LSTM有什么差别吗？

看来还真是一个单词，一个向量，一个单元啊

 多层神经网络

Q9：这个双向是什么个操作？

 

 

 每一个词都是具有维数的向量

 Q1：这个跟循环神经网络到底有什么关系？

 Q1：双向LSTM的逻辑结构到底是什么？
Q2：GRU何LSTM的优劣势各自差异在哪里？
Q3：传统参数在这个里边到底有着是那么样的对应（代码）

HIT_SunJiankun
关注
专栏目录
人工智能AI、机器学习模型理解
Goldxwang的博客
10-22 3万+
人工智能就是机器学习和大数据； 机器学习是什么：就是算法模型； 算法模型是什么： 俗地说，模型就是机器学习采用的算法。“模型文件”一般说的是这个算法用到的各种输入、输出数据的值。 因为机器学习往往需要大量的运算，所以有必要将中间变量也存入文件中，以便可以多次地运算。 机器学习是一类算法的通称，具体到某个算法，那模型的差异就很大了，就算某一类算法（比如神经元网络），它的不同形态（CNN、RNN...
深度学习-RNN-LSTM-卷积神经网络-算法实现-RNN-LSTM卷积神经网络Matlab实现
05-22
本资源提供了一个完整的RNN-LSTM卷积神经网络的Matlab实现，专为需要在Matlab环境中实现复杂神经网络模型的研究者和工程师设计。 本资源包括： 完整的Matlab源代码：提供了使用Matlab实现的RNN-LSTM卷积神经网络...
LSTM原理详解
热门推荐
yanglee0
07-30 6万+
0. 从RNN说起 循环神经网络（Recurrent Neural Network，RNN）是一种用于处理序列数据的神经网络。相比一般的神经网络来说，他能够处理序列变化的数据。比如某个单词的意思会因为上文提到的内容不同而有不同的含义，RNN就能够很好地解决这类问题。 1. 普通RNN 先简单介绍一下一般的RNN。 其主要形式如下图所示（图片均来自台大李宏毅教授的PPT）： 2. LSTM 2.1 什么是LSTM 长短期记忆（Long short-term memory, LSTM）是一种特殊的RNN，
深度学习模型之LSTM（都能理解的LSTM原理详解）
桔子皮的博客
06-09 1万+
一、循环神经网络（Recurrent Neural Network，RNN） 循环神经网络（Recurrent Neural Network，RNN）相比一般的神经网络来说，他能够处理序列变化的数据。比如某个单词的意思会因为上文提到的内容不同而有不同的含义，那么RNN就能解决这类问题。来看一个简单的例子，对于RNN来说，对于输入的一句话，它的每一个单词输入完已有会存到一个记忆单元里面（图中蓝色的方框）参与下一个单词的输入，需要注意的是这是同一个神经网络，只不过是在三个不同的时间点被使用了三次。 （注：以下图
《异常检测——从经典算法到深度学习》22 Kontrast: 通过自监督对比学习识别软件变更中的错误
Smileyan's blog
08-30 5453
kontrast 论文介绍、论文实验等
Transformer模型：人工智能界的全能跨界王
fengbeely的博客
07-26 831
Transformer凭借强大特征提取能力补齐了传统RNN在NLP领域中的诸多短板，其多种衍生模型在NLP任务上表现出色。此外，随着CNN模型的发展从成熟走向瓶颈，Transformer为CV领域注入了新鲜血液，从分类到分割，从图像到视频，Transformer已逐步代替CNN成为解决CV领域问题新范式。除强大的特征提取能力外，Transformer的自注意力结构在多类型数据模式对齐上也同样表现优秀，为处理文本、语音、图像、视频等多类型数据融合问题提供了新思路。
ApacheCN 活动汇总 2019.8.9
龙哥盟
08-09 3万+
公告 欢迎大家在我们平台上投放广告。如果你希望在我们的专栏、文档或邮件中投放广告，请准备好各种尺寸的图片和专属链接，联系咸鱼（1034616238）。 我们组织了一个开源互助平台，方便开源组织和大 V 互相认识，互相帮助，整合资源。请回复这个帖子并注明组织/个人信息来申请加入。 请回复这个帖子来推荐希望翻译的内容。如果大家遇到了做得不错的教程或翻译项目，也可以推荐给我们。我们会联系项目的维护者，...
ApacheCN 活动汇总 2019.8.23
龙哥盟
08-23 3万+
公告 欢迎大家在我们平台上投放广告。如果你希望在我们的专栏、文档或邮件中投放广告，请准备好各种尺寸的图片和专属链接，联系咸鱼（1034616238）。 我们组织了一个开源互助平台，方便开源组织和大 V 互相认识，互相帮助，整合资源。请回复这个帖子并注明组织/个人信息来申请加入。 请回复这个帖子来推荐希望翻译的内容。如果大家遇到了做得不错的教程或翻译项目，也可以推荐给我们。我们会联系项目的维护者，...
ApacheCN 活动汇总 2019.8.16
龙哥盟
08-16 3万+
公告 欢迎大家在我们平台上投放广告。如果你希望在我们的专栏、文档或邮件中投放广告，请准备好各种尺寸的图片和专属链接，联系咸鱼（1034616238）。 我们组织了一个开源互助平台，方便开源组织和大 V 互相认识，互相帮助，整合资源。请回复这个帖子并注明组织/个人信息来申请加入。 请回复这个帖子来推荐希望翻译的内容。如果大家遇到了做得不错的教程或翻译项目，也可以推荐给我们。我们会联系项目的维护者，...
ApacheCN 活动汇总 2019.7.27
龙哥盟
07-27 3万+
公告 欢迎大家在我们平台上投放广告。如果你希望在我们的专栏、文档或邮件中投放广告，请准备好各种尺寸的图片和专属链接，联系咸鱼（QQ 1034616238）。 我们组织了一个开源互助平台，方便开源组织和大 V 互相认识，互相帮助，整合资源。请回复这个帖子并注明组织/个人信息来申请加入。 请回复这个帖子来推荐希望翻译的内容。如果大家遇到了做得不错的教程或翻译项目，也可以推荐给我们。我们会联系项目的维...
rnn.zip_LSTM MATLAB_LSTM-RNN_RNN-LSTM_rnn lstm_rnn matlab
07-15
作为刚开始研究RNN 的小白，可以看RNN和LSTM的ｍａｔｌａｂ程序，本人刚开始学习 ，把找到的资源分享给大家。
ny-stock-price-prediction-rnn-lstm-gru.rar
06-20
标题中的“ny-stock-price-prediction-rnn-lstm-gru.rar”表明这是一个关于纽约股票价格预测的项目，其中使用了循环神经网络（RNN）、长短时记忆网络（LSTM）和门控循环单元（GRU）这三种深度学习模型。在金融领域，...
Classical-RNN-lstm模型
09-27
RNNGRULSTM lstm模型 lstm模型 lstm模型 lstm模型 lstm模型
ade20k 街景图像【数据集】及其【论文出处】ADE20K数据集 超过25000张图像的语义分割数据集
阿利同学的博客
10-04 822
ade20k 街景图像【数据集】及其【论文出处】ADE20K数据集是一个包含超过25000张图像的语义分割数据集，这些图像被密集注释，覆盖室内和室外场景。 它由MIT发布，包含100个事物类别和50个物质类别， 用于训练和验证的图像数量分别为20210和2000。 ADE20K数据集的特点包括丰富的场景多样性和详细的语义标注，使得它成为训练和评估语义分割模型的重要资源。 数据集组成： ADE20K数据集分为训练集、验证集和测试集，其中训练集包含20,210张图像，验证集包含2,000张图像。测试集的图像
深度学习：基于MindSpore实现ResNet50中药分拣
Landy_Jay的博客
10-07 1095
ResNet（Residual Network）是一种深度神经网络架构，由微软研究院的Kaiming He等人在2015年提出，并且在ILSVRC 2015竞赛中取得了很好的成绩。ResNet主要解决了随着网络深度增加而出现的退化问题，即当网络变得非常深时，训练误差和验证误差可能会开始上升，这并不是因为过拟合，而是由于深层网络难以优化。ResNet的核心思想是引入了残差学习框架来简化许多层网络的训练。通过构建“跳跃连接”或称“捷径连接”，允许一层直接与更深层相连接。
【深度学习】交叉熵
weixin_62403234的博客
10-04 450
它告诉我们，如果我们使用一个概率分布 q 来近似真实的概率分布 p，我们在信息上会有多少额外损失。如果两个分布差异很大，则 KL 散度会较大，表示我们需要更多的额外信息来弥补近似分布和真实分布之间的差异。是一个系统中所有可能事件的不确定性或平均信息量的度量。是信息论中的一个重要概念，也是在机器学习和深度学习中用于分类任务的常见损失函数。它衡量的是两个概率分布之间的差异，特别是模型的预测概率分布与真实分布的差异。交叉熵最初是从信息论引入的，首先我们先来看一下什么是信息量，什么是熵，什么是相对熵。
【深度学习基础模型】胶囊网络（Capsule Networks, CapsNet）详细理解并附实现代码。
985小水博的摸鱼日常
10-06 728
胶囊网络（Capsule Networks, CapsNet）学习笔记！
深度学习：深度学习的主流框架
最新发布
m0_73640344的博客
10-07 658
深度学习框架是用于构建、训练和部署深度学习模型的软件库和接口。这些框架大多数提供了高效的数值计算功能，并支持数据流图、自动微分以及高效的资源管理。选择合适的深度学习框架取决于项目的需求、预期的功能性、社区支持以及个人或团队的熟练度。下面是一些当下主流的深度学习框架，以及选择它们的考虑因素。
ARIMA SARIMA VAR Auto-ARIMA Auto-SARIMA LSTM GRU RNN CNN MLP DNN MLP-LSTM MLP-GRU MLP-RNN MLP-CNN LSTM-ARIMA LSTM-MLP LSTM-CNN GRU-ARIMA GRU-MLP GRU-CNN RNN-ARIMA RNN-MLP RNN-CNN CNN-ARIMA CNN-MLP CNN-LSTM CNN-GRU ARIMA-SVM SARIMA-SVM VAR-SVM Auto-ARIMA-SVM Auto-SARIMA-SVM LSTM-SVM GRU-SVM RNN-SVM CNN-SVM MLP-SVM LSTM-ARIMA-SVM LSTM-MLP-SVM LSTM-CNN-SVM GRU-ARIMA-SVM GRU-MLP-SVM GRU-CNN-SVM RNN-ARIMA-SVM RNN-MLP-SVM RNN-CNN-SVM CNN-ARIMA-SVM CNN-MLP-SVM CNN-LSTM-SVM CNN-GRU-SVM ARIMA-RF SARIMA-RF VAR-RF Auto-ARIMA-RF Auto-SARIMA-RF LSTM-RF GRU-RF RNN-RF CNN-RF MLP-RF LSTM-ARIMA-RF LSTM-MLP-RF LSTM-CNN-RF GRU-ARIMA-RF GRU-MLP-RF GRU-CNN-RF RNN-ARIMA-RF RNN-MLP-RF RNN-CNN-RF CNN-ARIMA-RF CNN-MLP-RF CNN-LSTM-RF CNN-GRU-RF ARIMA-XGBoost SARIMA-XGBoost VAR-XGBoost Auto-ARIMA-XGBoost Auto-SARIMA-XGBoost LSTM-XGBoost GRU-XGBoost RNN-XGBoost CNN-XGBoost MLP-XGBoost LSTM-ARIMA-XGBoost LSTM-MLP-XGBoost LSTM-CNN-XGBoost GRU-ARIMA-XGBoost GRU-MLP-XGBoost GRU-CNN-XGBoost RNN-ARIMA-XGBoost RNN-MLP-XGBoost RNN-CNN-XGBoost CNN-ARIMA-XGBoost CNN-MLP-XGBoost CNN-LSTM-XGBoost CNN-GRU-XGBoost ARIMA-ANN SARIMA-ANN VAR-ANN 上面这100个缩写模型的全称及相关用途功能详细解释
07-15
2. SARIMA (Seasonal ARIMA): 在ARIMA模型基础上添加了对季节性因素的建模，适用于带有季节性的时间序列数据的预测。 3. VAR (Vector Autoregression): 用于多变量时间序列数据的预测，基于自回归模型，能够捕捉...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值