2018年07月_Amy_mm

12月 08月 07月 05月 04月 03月

原创 LSTM古诗生成

RNN的类别：循环神经网络主要应用于序列数据的处理，因输入与输出数据之间有时间上的关联性，所以在常规神经网络的基础上，加上了时间维度上的关联性，也就是有了循环神经网络。因此对于循环神经网络而言，它能够记录很长时间的历史信息，即使在某一时刻有相同的输入，但由于历史信息不同，也会得到不同的输出，这也是循环神经网络相比于常规网络的不同之处。根据输入与输出之间的对应关系，可以将循环神经网络分为以下...

2018-07-25 20:00:01 13466 2

原创 LSTM实现简单的问答系统，keras的bAbI

3.3 LSTM实现简单的问答系统3.3.1 问答系统简介3.3.2 基于keras实现简单的问答系统模型逻辑图如下：数据集：Facebook的bAbI数据训练集： 1 Mary moved to the bathroom.2 Sandra journeyed to the bedroom.3 Mary got the football there.4...

2018-07-17 17:07:32 6776 13

原创 3.2、用LSTM实现MNIST手写数字识别

用LSTM实现MNIST手写数字识别就像开始学习编程语言时入门程序是‘Hello World’一样，mnist就是机器学习中的‘Hello World’。1、MNIST手写数字本数据库有x_train为60,000个用于训练的28*28的灰度手写数字图片，x_test为10,000个测试图片，如下图所示。y_train，y_test是标记的数字，值为0-9。（1）从keras数...

2018-07-12 23:01:50 4014 4

原创 LSTM原理讲解 GRU原理讲解

2.1 LSTM（Long-short term memory）长短期记忆（（Long short-term memory）最早是1997年由Hochreiter 和 Schmidhuber在论文《LONG SHORT-TERM MEMORY》[3][3]^{[3]}中提出的。在所有的循环神经网络中都有一个如图所示的循环链，链式结构的每个单元将输入的信息进行处理后输出。在常规循环神经网...

2018-07-12 12:05:30 9948 1

原创 DNN中的BP和RNN中的BPTT推导

1.5、BP和BPTT参考博客：http://www.cnblogs.com/pinard/p/6509630.html1、反向传播算法（Backpropagation）反向传播算法要解决的问题深层神经网络（Deep Neural Network，DNN)由输入层、多个隐藏层和输出层组成，任务分为分类和回归两大类别。如果我们使用深层神经网络做了一个预测任务，预测输出为ỹ&nb...

2018-07-12 11:59:23 2797

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人