[机器学习入门] 李宏毅机器学习笔记-33 (Recurrent Neural Network part 2;循环神经网络 part 2)

[机器学习入门] 李宏毅机器学习笔记-33 (Recurrent Neural Network part 2;循环神经网络 part 2)

PDF	VIDEO

---

RNN

Learning Target

cost就是每一个时间点的output与reference的cross entropy的合，就是minimize的对象。
有了这个lost后，training要怎么做呢？

不幸的是，RNN的training是比较困难的，我门期望蓝色的线，可是现实骨感如绿色那条线…

这是一个经常遇到的问题，该方法的作者也有解释。