- 博客(2)
- 收藏
- 关注
RSS订阅
1原创 BI-LSTM入门学习
最后一道按时到达教室.这个时候我们要让RNN来判断我们到底有没有准时到达,RNN可能给出没有这个答案,然后就反向的去推导误差,在循环神经网络中，由于模型每个时刻的状态都是由之前的状态的乘积得来的，那么根据链式法则，如果每一层神经元对上一层的输出的偏导乘上权重结果都小于 1，则在经过足够多的传播之后，误差对输入层的梯度会趋近于 0，即梯度消失；对于t时刻的输出，前向LSTM层具有输入序列中t时刻以及之前时刻的信息，而后向LSTM层中具有输入序列中t时刻以及之后时刻的信息。Bi-LSTM的产生。
2023-11-21 18:40:28
228
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人