第十周学习周报（201800507-20180513）

第十周学习周报

一、本周学习情况

    1、学习了吴恩达老师微专业课《深度学习工程师》

              第二篇：改善深层神经网络：超参数调试、正则化以及优化

                  第二周内容：优化算法

    2、看了阿里云云栖社区的深度学习入门系列文章

               第十四章：LSTM

    3、找了一篇论文看，但是没看完。《Mask R-CNN》

                论文看了一半，还没看懂。

二、学习笔记

        由于传统的RNN存在梯度弥散问题或梯度爆炸问题，导致第一代RNN基本上很难把层数提上去，因此其表征能力也非常有限，应用上性能也有所欠缺。于是，胡伯提出了LSTM，通过改造神经元，添加了遗忘门、输入门和输出门等结构，让梯度能够长时间的在路径上流动，从而有效提升深度RNN的性能。    

三、下周学习计划

    1、继续学习吴恩达老师的微专业课程

    3、把正在看的论文看完

    4、多动手进行实践