深度学习初学者的另一份小抄-《一天学懂深度学习（李宏毅）》（中文标注）...

今天，本站推荐一份深度学习的小抄：台大李宏毅教授的深度学习讲义，这是我见过最容易懂的深度学习入门资料，300多页的讲义能系统、通俗易懂地讲清楚深度学习的基本原理，如同机器学习小抄一样生动形象。。

备注：本站以前发的一篇《机器学习小抄-（像背托福单词一样理解机器学习）》

把机器学习的概念做成背托福单词的随身小抄一样方便！分分钟搞定机器学习各种记不住的概念！

本文对小抄主要内容进行简要介绍，并且对主要部分做了页码标注和标题翻译：

1.讲义大纲：

第一部分：介绍深度学习

1.1   深度学习概论（p5）

1.1.1 深度学习的三个步骤（p10）

        1）定义一系列函数（p11）

        1.1.2 函数的优点（p26）

                1） 训练数据（p27）

                2）学习目标（p28）

                3）损失函数（p29）

         1.1.3 选择最佳函数（p32）

        1）梯度下降（p33）

        2）反向传播推导（p44）

1.2   为什么使用深度（p47）

1.2.1 更多参数，更优性能（p47）

1.2.2  任何函数可以通过一个单一的隐藏层实现（p44）

1.2.3  深度学习：模块化？需要更少的数据（p52）

第二部分：关于训练深度神经网络的一些建议

2.1 合适的损失函数（p69）

        2.1.1 平方误差和交叉熵（p74）

2.2 Mini batch （p74）

        2.2.1 更好的性能（p83）

2.3 激活函数（p86）

        2.3.1 RELU（p92）

        2.3.2 Maxout（p98）

2.4 调整学习率（p98）

        2.4.1 Adagrad（p104）

2.5 Momentum（p108）

        2.5.1 Adam（p112）

2.6 解决过拟合（p115）

        2.6.1 更多的训练数据（p116）

2.7 早停（p119）

2.8 权重衰减（p121）

2.9 Dropout（p126）

2.10 网络架构（p138）

第三部分：各种各样的神经网络

3.1 CNN （p149）

        3.1.1 卷积（p158）

        3.1.2 池化（p165）

        3.1.3 平铺（p170）

3.2 RNN（p192）

3.3 LSTM（p196）

3.4 GRU（p211）

第四部分：下一股浪潮

4.1 监督学习（p226）

        4.1.1 超级深的网络（p226）

        4.1.2 注意力模型（p235）

4.2 增强学习（p252）

4.3 无监督学习（p264）

2.讲义截图：

3.总结：

一天读懂深度学习，尽管有点夸张，但这个讲义，确实把深度学习的概念基本都讲到了，读完讲义，将会对深度学习有总体的了解，对将来的学习会有很大帮助。尽管讲义不是最新（这个版本是2017年6月的），但是对于初学者入门，会有事半功倍的效果，本站极力推荐。

备注：本站为了方便读者，将pdf版本的讲义转换为ppt格式，方便大家使用（部分公式错乱，请参考pdf版本）

完整讲义下载请回复“李宏毅”查看

也可以直接用百度云下载：

链接：https://pan.baidu.com/s/1t0EpHwx46u_yzgPfpzOJyg 

提取码：h74o 

请关注和分享↓↓↓

机器学习初学者

QQ群：654173748

往期精彩回顾

• 机器学习初学者公众号下载资源汇总（一）

• 吴恩达老师的机器学习和深度学习课程笔记打印版
  

• 吴恩达老师机器学习课程个人笔记在线版
  

• DeepLearning.ai深度学习课程笔记在线版

• 首发：深度学习入门宝典-《python深度学习》原文代码中文注释版及电子书

• 科研工作者的神器-zotero论文管理工具
  

• 机器学习的数学基础