banxin1995的博客

原创 LSTM内部结构分析

详解LSTM-内部结构 LSTM内部结构 1,循环神经网络(RNN) 内部结构： RNN选用的激活函数为tanh tanh(x)=ex−e−xex+e−x tanh(x)=\frac{e^x-e^{-x}}{e^x+e^{-x}}tanh(x)=ex+e−xex−e−x​ tanh(x)的输出空间为(-1,-1),整个函数以0为中心。 tanh′(x)=1−tanh(x)2 tanh&#x...