用RNN拟合加法运算

最新推荐文章于 2021-11-25 00:10:56 发布
最新推荐文章于 2021-11-25 00:10:56 发布
阅读量3.1k 收藏 1
点赞数
分类专栏： 机器学习 文章标签： 机器学习 神经网络 深度学习 rnn
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/whai362/article/details/52523439
版权

最近在看keras文档的时候看到一个关于RNN的很有意思的应用——用RNN拟合加法运算。看完之后我自己也实现了一下，原版代码在这里https://github.com/fchollet/keras/blob/master/examples/addition_rnn.py

一. 实验描述

用RNN拟合整数的加法运算，其中被加数和加数在区间 [0,1000) 内。

二. 实验思路

先从数据讲起，因为被加数和加数在区间 [0,1000) 内，所以加法表达式的最大长度为 3+1+3=7 且表达式中包含的字符只能为{'0', '1', '2', '3', '4', '5', '6', '7', '8', '9', '+', ' '}，所以该实验中一个加法表达式可以表示成一个

最低0.47元/天 解锁文章
whai362
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
专栏目录
【tensorflow.js学习笔记（5）】使用RNN学习“加法运算”
orangecsy的博客
05-22 1271
tensorflow.js中实现了几种RNN的接口，包括SimpleRNN、GRU、LSTM。这篇笔记将用tensorflow.js在浏览器环境下训练一个RNN来“学习”加法运算。1、生成训练、测试数据// digits-每个字符位数，trainingSize-训练集大小 function generateData(digits, trainingSize) { // 所有可选字符集 co...
2天
02-14
你需要熟悉如何创建、操作和优化张量，例如，使用`torch.tensor()`创建张量，`torch.add()`进行加法运算，以及`torch.optim`中的优化器。 3. **自动梯度**：PyTorch支持自动计算梯度，这是反向传播的基础。通过`...
简单循环神经网络（RNN）--进位加法器
空大白
10-17 899
具体代码如下： import copy, numpy as np np.random.seed(0) #随机数生成器的种子，可以每次得到一样的值 # compute sigmoid nonlinearity def sigmoid(x): #激活函数 output = 1/(1+np.exp(-x)) return output # convert output of sigmoi...
基于RNN的加法运算器-从零实现循环神经网络
浮生
07-17 935
本文以一个简单的LSTM为例，训练一个可以做加法的长短时间记忆神经网络． 生成训练数据：generate_ground_truth.py. 数据格式为256范围内的正整数相加，c = a + b. 可以使用传统CNN来表示 网络设计 目标函数： 参考 １：一个使用attention模型，在karas中可视化训练的模型 https://medium.com/datalogue/attention...
深度学习算法原理——循环神经网络RNN
null的专栏
09-17 3286
1. 概述 循环神经网络（Recurrent Neural Networks, RNN）主要用于时序数据，最常见的时序数据如文章，视频等，ttt时刻的数据与t−1t-1t−1时刻的数据存在内在的联系。RNN模型能够对这样的时序数据建模。 2. 算法原理 RNN模型的基本结构如下所示（图片来自参考文献）： 如上图所示，循环神经网络通过使用自带反馈的神经元，能够处理任意长度的时序数据，对此结构按照时间展开的形式如下所示（图片来自参考文献）： 2.1. RNN的结构 上图中给出了RNN的内部结构，RNN根据
RNN网络实现二进制加法（Python无框架代码）
weixin_47142735的博客
10-12 317
RNN网络实现二进制加法（ｐｙｔｈｏｎ无框架代码） ＲＮＮ网络在我学习的时候，发现网上的手动代码都是关于二进制加法的程序，当时这个程序注释比较少，不是很好理解，容易让人放弃。下面把我写的一个注释版放出来，方便深度学习和python初学者理解（我也是小白，哈哈哈，希望大佬见谅） '利用RNN网络特性(能够记忆之前的事物)，使RNN网络学会二进制加法，即能正确完成加法和进位两种操作' "激活函数为sigmoid" import copy, numpy as np np.random.seed(0) #定义
改进神经网络的图像识别系统设计与硬件实现.docx
02-23
本文将 RCE 算法和 K-Nearest Neighbor（KNN）算法思想引入到 RBF 网络中，将乘法运算改为加法运算，以减低网络的运算量，并采用最小均方差算法（Least Mean Square, LMS）对权值进行调整，保证了网络的收敛性。...
卷积神经网络CNN
06-12
- 卷积核权重共享：每个卷积核在整个输入上使用相同的参数，减少了网络参数数量，降低了过拟合风险。 - 深度卷积：多层卷积可以提取不同级别的特征，浅层捕捉局部细节，深层捕获高级抽象特征。 3. 池化运算： - ...
tensor_2.x:edwith_deep_learning
03-11
2. 张量运算：包括基本的数学运算（加法、减法、乘法、除法）以及矩阵运算（转置、求逆、求行列式）。这些运算是构建深度学习模型的基础。 3. 模型构建：Tensor 2.x支持定义和构建复杂的神经网络结构，包括卷积神经...
炼数成金Tensorflow课程笔记1
08-08
通过`tf.subtract()`和`tf.add()`等操作创建减法和加法运算。在会话中运行这些操作，如`tf.Session().run(init)`初始化所有全局变量，`sess.run(sub)`和`sess.run(add)`执行计算并返回结果。 4. **Fetch与Feed** ...
RNN-LSTM 卷积神经网络 Matlab 实现，简单的数据拟合.zip
05-10
RNN-LSTM 卷积神经网络 Matlab 实现，简单的数据拟合。 RNN-LSTM 卷积神经网络 Matlab 实现。 RNN-LSTM卷积神经网络Matlab实现 RNN卷积神经网络，LSTM，使用matlab实现，简单的数据拟合 RNN Matlab
利用TensorFlow构建LSTM对多维数据进行拟合
06-19
本程序利用TensorFlow构建一个简易LSTM模型，内含对多个常见激活函数的性能的比较过程，以及本程序的运行环境。
[Pytorch系列-52]：循环神经网络RNN - 全连接网络与RNN网络在时间序列数据集上拟合的比较
文火冰糖（王文兵）的博客
11-25 1万+
作者主页(文火冰糖的硅基工坊)：文火冰糖（王文兵）的博客_文火冰糖的硅基工坊_CSDN博客 本文网址： 目录 第1章 概述 1.1 业务需求概述 1.2 业务分析 1.3 导入库 第1章 数据集 1.1 数据集概述 1.2 从文件中读取数据 1.3 提取有效数据 第2章 全连接网络的拟合 2.1 定义全连接网络 2.2 定义loss与优化器 2.3 训练前准备 2.4 开始训练 2.5 loss显示 2.6 结果分析 第3章RNN网络的拟合 3.1 定义RNN网络 ..
深度学习代码实战——基于RNN的时间序列拟合（回归）
weixin_37763870的博客
04-02 2700
1.前言 循环神经网络让神经网络有了记忆, 对于序列型的数据,循环神经网络能达到更好的效果.接着我将实战分析手写数字的 RNN分类
numpy实现RNN训练机器做加减法，完整注释
xinfeng2005的专栏
11-30 2048
本文来源自： https://iamtrask.github.io/2015/11/15/anyone-can-code-lstm/ http://blog.csdn.net/vbskj/article/details/52107538 # coding=utf-8 import copy, numpy as np np.random.seed(0) # compute sigmo
RNN構造二進制加法器的tensorflow實現
MLlearnerTJ的博客
12-12 2316
RNN（循环神经网络）对于序列数据的建模有得天独厚的优势，相比一般的前馈神经网络，它对于历史输入数据具有一定的记忆性，能通过隐变量记录历史信息。本文利用RNN来学习二进制加法的进位规则。异国友人写了一个Python+Numpy的RNN二进制加法器，简单明了，还包括作者对RNN的理解和介绍，非常棒的博客。地址在这里。本文是针对它的tensorflow实现，一方面学习RNN，一方面学习tensorflo
人人都能用Python写出LSTM-RNN的代码！[你的神经网络学习最佳起步]
热门推荐
Life is Float.
11-21 9万+
我的最佳学习法就是通过玩具代码，一边调试一边学习理论。这篇博客通过一个非常简单的python玩具代码来讲解循环神经网络。 那么依旧是废话少说，放‘码’过来！
rnn的一个例子
emmaczw的博客
11-22 2364
直接po代码，简单的rnn加法器，改自github，不用TensorFlow等框架，可实现多位（超过8位）加法。 import copy, numpy as np np.random.seed(0) def sigmoid(x): output = 1 / (1 + np.exp(-x)) return output def sigmoid_output_to_de
官网实例详解-目录和实例简介-keras学习笔记四
wyx100的专栏
06-11 9165
https://github.com/keras-team/keras/tree/master/examples Keras examples directory Keras实例目录 （点击跳转）   官网实例详解4.1（addition_rnn.py） 官网实例详解4.2（antirectifier.py） 官网实例详解4.3（babi_memnn.py） 官网实例详解4.4（ba...
pytorch用rnn模型拟合sin函数
最新发布
05-23
可以使用PyTorch中的RNN模型来拟合sin函数。以下是一个简单的例子： ```python import torch import torch.nn as nn import matplotlib.pyplot as plt import numpy as np # 定义模型 class RNN(nn.Module): def __init__(self, input_size, hidden_size, output_size): super(RNN, self).__init__() self.hidden_size = hidden_size self.rnn = nn.RNN(input_size, hidden_size, batch_first=True) self.fc = nn.Linear(hidden_size, output_size) def forward(self, x, hidden): out, hidden = self.rnn(x, hidden) out = self.fc(out) return out, hidden # 训练模型 input_size = 1 hidden_size = 32 output_size = 1 sequence_length = 20 num_epochs = 1000 learning_rate = 0.01 rnn = RNN(input_size, hidden_size, output_size) criterion = nn.MSELoss() optimizer = torch.optim.Adam(rnn.parameters(), lr=learning_rate) hidden = None for epoch in range(num_epochs): # 生成随机序列 inputs = torch.from_numpy(np.random.uniform(-np.pi, np.pi, size=(1, sequence_length, input_size))).float() outputs = torch.sin(inputs) # 前向传播 rnn.zero_grad() hidden = hidden.detach() if hidden is not None else None outputs, hidden = rnn(inputs, hidden) loss = criterion(outputs, outputs) # 反向传播 optimizer.zero_grad() loss.backward() optimizer.step() if (epoch+1) % 100 == 0: print('Epoch [{}/{}], Loss: {:.4f}'.format(epoch+1, num_epochs, loss.item())) # 测试模型 with torch.no_grad(): inputs = torch.from_numpy(np.linspace(-np.pi, np.pi, num=100).reshape(1, -1, 1)).float() outputs = torch.sin(inputs) hidden = None preds, hidden = rnn(inputs, hidden) plt.plot(inputs.squeeze().numpy(), outputs.squeeze().numpy(), label='target') plt.plot(inputs.squeeze().numpy(), preds.squeeze().numpy(), label='prediction') plt.legend() plt.show() ``` 这个例子中，我们使用一个有一个隐藏层的RNN模型来拟合sin函数。我们生成随机序列作为输入，并将其作为sin函数的输出进行训练。在1000个epoch之后，我们使用训练好的模型来预测sin函数，并将其可视化。
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值