深度学习-RNN
文章平均质量分 90
kaiyin_hzau
这个作者很懒,什么都没留下…
展开
-
Independently Recurrent Neural Network
Independently Recurrent Neural Network(IndRNN):Building A Longer and Deeper RNN阅读并整理《Independently Recurrent Neural Network(IndRNN):Building A Longer and Deeper RNN》论文,并解析其TensorFlow实现代码。 文章提出一种独立的...原创 2018-05-13 22:05:02 · 744 阅读 · 0 评论 -
语言模型与RNN
注:cs224n 语言模型:一个用来预测下一个单词的系统模型 用公式可以表示为: P(x(t+1)=wj|x(t),...,x(1))P(x(t+1)=wj|x(t),...,x(1))P(x^{(t+1)}=w_j |x^{(t)},...,x^{(1)}) 这里wjwjw_j是一个位于词汇表V={w1,...,w|V|w1,...,w|V|w_1,...,w_{|V|}}中的词。最...原创 2018-08-18 11:52:06 · 1946 阅读 · 0 评论 -
Towards Binary-Valued Gates for Robust LSTM Training
Towards Binary-Valued Gates for Robust LSTM Training一、首先给出LSTM公式it=σ(Wxixt+Whiht−1+bi),it=σ(Wxixt+Whiht−1+bi),i_t = \sigma(W_{xi}x_t + W_{hi}h_{t-1} + b_i), ft=σ(Wxfxt+Whfht−1+bf)ft=σ(Wxfxt+Whfht...原创 2018-09-04 19:53:53 · 425 阅读 · 1 评论