【grokking·Deep Learning】读书笔记一

本栏目的书籍地址：

 https://pan.baidu.com/s/1SjeTPu0H7sjRiI6zJIh_tg

提取码：virq

在本书的第一章，主要提出了三个问题。

• 为什么要学习深度学习？

• 为什么要读这本书？

• 如何入门？

 

一、为什么要学习深度学习？

 

这是用于智能增量自动化的强大工具。

从一开始，人类就在建立越来越多的工具来理解和控制我们周围的环境。深度学习是这个创新故事的今天。

也许使本章如此引人注目的是，该领域更多是一种精神创新而不是机械创新。深度学习与其机器学习的姊妹领域非常相似，它致力于一点一点地自动化智能。在过去的几年中，它在这项工作中取得了巨大的成功和进步，超过了计算机视觉，语音识别，机器翻译和许多其他任务方面的先前记录。

鉴于深度学习似乎在很大程度上使用了相同的大脑启发算法（神经网络）来在众多领域中实现这些成就，所以这是特别的非凡。尽管深度学习仍然是一个充满挑战的积极发展的领域，但最近的发展却引起了极大的兴奋：也许我们不仅发现了一个很好的工具，而且发现了我们自己的思维之窗。

深度学习具有使熟练劳动力大量自动化的潜力。

这里的观点是，深度学习的出现使得像呼叫中心运营商，出租车司机和低级业务分析师等行业可以被替代，并且深度学习的成本要更低。

既有趣又有创意。通过尝试模拟智力和创造力，您会发现很多关于人类的知识。

 

二、这本书的优点

 

• 它的入门门槛较低。

• 它将帮助您了解框架（Torch，TensorFlow等）内部的内容。

• 所有与数学相关的材料将得到直观的解释。

• 介绍章节之后的所有内容都是基于“项目”的。

 

三、如何入门？

 

安装Jupyter Notebook和NumPy等Python库

Jupyter Notebook是基于网页的用于交互计算的应用程序。其可被应用于全过程计算：开发、文档编写、运行代码和展示结果。

简而言之，Jupyter Notebook是以网页的形式打开，可以在网页页面中直接编写代码和运行代码，代码的运行结果也会直接在代码块下显示。如在编程过程中需要编写说明文档，可在同一个页面中直接编写，便于作及时的说明和解释。介绍安装附链接。

https://www.jianshu.com/p/91365f343585

Numpy等Python库的安装在网上均可找到，推荐python版本为3.7，常用的python、机器学习和深度学习安装包：numpy，pandas，scipy，sympy，sklearn（机器学习库），tensorflow（cpu，gpu版本），pytorch（cpu，gpu版本）。虽然网上说要下载anaconda，但是个人觉得对于新手来说，最好直接下载python，并使用pip下载安装包。通常是通过下面链接下载package包。

https://pypi.org/

https://www.lfd.uci.edu/~gohlke/pythonlibs/#numpy

数学基础

深度学习的理论知识需要一定的数学基础。如果你有志于从事深度学习的理论研究，那么要学习数学分析、高等代数、概率论、最优化理论、图论等，这里强推深度学的花书。如果你希望学习深度学习的实践应用，对理论没有太多的兴趣的话，这里推荐《机器学习实战》、《深度学习实战》会是你不错的入门书籍。

打好基础，找到自己的兴趣

深度学习的方向很多，所以我建议先把基础的知识掌握牢固。

从普通的神经网络开始，你要学习什么是bp算法，它的原理是什么，怎么去推导公式；你要学习常见的激活函数（relu，sigmoid，tanh），常见的损失函数（MSE, MAE, Cross-Entropy），常见的优化方法（SGD, ADAM）;你要学习什么是卷积，卷积的原理是什么，它是如何传播的；padding是什么，为什么要padding；pooling是什么，它有什么作用，他应该如何求导；你要学习RNN的结构和设计思想，他是怎么传播的，它是如何求导的（其中有很多细节）；LSTM是为什么提出来的，我相信大多数人会说为了解决长期记忆，那么最重要的问题就在于是长期记忆是如何体现的，其本质是什么。除此之外，你还要学需要在神经网络搭建过程中的trick，比如dropout（drouput的本质是什么，与集成模型的关系），Normalization（Batch，Layer，Weight），mini-batch的思想。

在你掌握了一定的基础后，你要去选择自己喜欢的领域。

1. 机器学习理论

2. 深度学习理论

3. 计算机视觉

4. 自然语言处理

5. 推荐系统

6. 语音识别

7. ...

当然我列出的都是大类，具体每个大类中有很多的小类，如自然语言处理方向，有文本挖掘，情感分析，QA，知识图谱，很流行的Chatbot等。这些都需要自己学习基础知识，多看前沿的论文，做项目实战或者参加比赛锻炼。当然我相信，只要愿意学习，不同的方向都可以学得很好。在之后的笔记中，我会推荐更多的学习资源。

 

文末附上一些学习资源！！！希望大家多多支持！！！

AI学习路线

https://pan.baidu.com/s/1q7cTTh3yqhCZ7jmWEwiK1Q

提取码：y29c

 

统计自然语言处理

https://pan.baidu.com/s/16QxMt1C6mqwApdp0pW1gfw

提取码：gjj3

 

Python知识手册

https://pan.baidu.com/s/11i9kFh1YNEhFeSNYZBFliQ

提取码：a3u9

 

深度学习

https://pan.baidu.com/s/1W3WAhuDdQnw4b-YvSqxhKQ

提取码：8d4k

 

关注公众号ChallengeHub，加入ChallengeHub粉丝群，共同探讨，共同学习，共同进步！！！