![](https://img-blog.csdnimg.cn/20201014180756923.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
文章平均质量分 81
MrTriste
Machine Learning & Data Mining
展开
-
循环神经网络RNN详解 反向传播公式推导+代码(十分详细)
部分内容引用自https://zybuluo.com/hanbingtao/note/5414581. Why RNN循环神经网络RNN为语言模型来建模,语言模型就是:给定一个一句话前面的部分,预测接下来最有可能的一个词是什么。RNN理论上可以往前看(往后看)任意多个词。2. RNN结构2.1 最基本的结构:xt−1,xt,xt+1" role原创 2018-01-29 02:09:32 · 16209 阅读 · 2 评论 -
LSTM详解 反向传播公式推导
部分参考: http://colah.github.io/posts/2015-08-Understanding-LSTMs/1. 结构1.1 比较RNN:LSTM:其中的notation:1.2 核心思想:LSTM在原来的隐藏层上增加了一个 The key to LSTMs is the cell state, the horizont...原创 2018-02-08 00:42:32 · 29101 阅读 · 21 评论 -
TensorFlow实战:LSTM的结构与cell中的参数
看了关于LSTM的很多文章,感觉都讲的不错,唯独cell中的参数维度被忽略了,导致大体上能听懂,但是一涉及细节就比较模糊,所以想在这里写一篇侧重于LSTM参数维度的文章,以备大家查阅。 文章会结合TensorFlow具体的代码,基本原理的话可以先去看一下原理篇,这里默认大家都了解基本的原理,这里推荐下自己写的LSTM详解 反向传播公式推导 。一些参数训练的话一般一批一批训练,即让b...原创 2018-03-25 19:01:58 · 16020 阅读 · 23 评论 -
tensorflow 恢复(restore)模型的两种方式
0.前言首先我们要理解TensorFlow的一个规则,首先构建计算图(graph),然后初始化graph中的data,这两步是分开的。1.如何恢复模型有两种方式(这两种方式有比较大的不同):1.1 重新使用代码构建图举个例子(完整代码):def build_graph(): w1 = tf.Variable([1,3,10,15],name='W1',d...原创 2018-08-27 14:18:01 · 16420 阅读 · 0 评论 -
restore与run(tf.global_variables_initializer())
一种常见的需求是,加载ckpt里的图,然后在图上进行修改,那么就要用到TensorFlow的恢复模型要在图上进行修改,难免会引进新的变量,如果使用sess.run(tf.global_variables_initializer())就会将加载进来的数据情清空,那么该怎么办呢?可以先啥都不管把所有的图相关的部分构造好后,然后构建init_op,然后在restore前run(init_op)...原创 2018-08-27 14:25:53 · 1631 阅读 · 0 评论