Deep Learning
《深度学习》是深度学习领域唯一的综合性图书,全称也叫做深度学习 AI圣经(Deep Learning),由三位全球知名专家IanGoodfellow、YoshuaBengio、AaronCourville编著,全书囊括了数学及相关概念的背景知识,包括线性代数、概率论、信息论、数值优化以及机器学习中的相关内容。同时,它还介绍了工业界中实践者用到的深度学习技术,包括深度前馈网络、正则化、优化算法、卷积网络、序列建模和实践方法等,并且调研了诸如自然语言处理、语音识别、计算机视觉、在线推荐系统、生物信息学以及视频游戏方面的应用。最后,深度学习全书还提供了一些研究方向,涵盖的理论主题包括线性因子模型、自编码器、表示学习、结构化概率模型、蒙特卡罗方法、配分函数、近似推断以及深度生成模型,适用于相关专业的大学生或研究生使用。
可以下载《深度学习》的中文版 pdf 和英文版 pdf 直接阅读。
对于本项目的工作,你可以直接下载 深度学习_原理与代码实现.pdf (后面会对该书不断更新)
《深度学习》可以说是深度学习与人工智能的入门宝典,许多算法爱好者、机器学习培训班、互联网企业的面试,很多都参考这本书。但本书晦涩,加上官方没有提供代码实现,因此某些地方较难理解。本站基于数学推导和产生原理重新描述了书中的概念,并用Python (numpy 库为主) 复现了书本内容 ( 源码级代码实现。推导过程和代码实现均放在了下载区的 pdf 文件中,重要部分的实现代码也放入 code 文件夹中 )。
然而我水平有限,但我真诚地希望这项工作可以帮助到更多人学习深度学习算法。我需要大家的建议和帮助。如果你在阅读中遇到有误或解释不清的地方,希望可以汇总你的建议,提issue。如果你也想加入这项工作书写中或有其他问题,可以联系我的邮箱:deityrayleigh@gmail.com。如果你在你的工作或博客中用到了本书,还请可以注明引用链接。
写的过程中参考了较多网上优秀的工作,所有参考资源保存在了reference.txt文件中。
作者留言
最近收到了一些读者的催更邮件,感谢认可,但依旧想在此解释一下。每个章节的制作,从每一个概念的详细描述、原理推导、作图、代码实现到生成最终的 pdf 文件,需要时间。为了可以解释清楚,你在 pdf 文件中看到的所有的图几乎都是我自己画的。如果你在阅读过程中遇到有想要描述的概念点,请发邮件告知我。这个项目的工作会一直更新完,不会咕。最后,如果你认可这份工作的话,希望可以 watch、star、fork 三连一下,或者在其他平台转发推广。非常非常感谢你的认可与推广,谢谢!!——朱明超
更新说明
2020/3/:
1. 修改第五章决策树部分,补充 ID3 和 CART 的原理,代码实现以 CART 为主。
2. 第七章添加 L1 和 L2 正则化最优解的推导 (即 L1稀疏解的原理)。
3. 第七章添加集成学习方法的推导与代码实现,包括 Bagging (随机森林)、Boosting (Adaboost、GBDT、XGBoost)
4. 第八章添加牛顿法与拟牛顿法 (DFP、BFGS、L-BFGS) 的推导。
5. 第十一章节添加贝叶斯线性回归、高斯过程回归 (GPR) 与贝叶斯优化的推导与代码实现。
后面每次的更新内容会统一放在 update.txt 文件中。
章节目录与文件下载
除了《深度学习》书中的概念点,本项目也在各章节添加一些补充知识,例如第七章集成学习部分的 随机森林、Adaboost、GBDT、XGBoost 的原理剖析和代码实现等,又或者第十二章对当前一些主流方法的描述。大的章节目录和 pdf 文件下载链接可以详见下表,而具体 pdf 文件中的实际目录请参考 contents.txt。你可以在下面的 pdf 链接中下载对应章节,也可以在 releases 界面直接下载所有文件。
中文章节
英文章节
下载
(含推导与代码实现)
第一章 前言
1 Introduction
第二章 线性代数
2 Linear Algebra
第三章 概率与信息论
3 Probability and Information Theory
第四章 数值计算
4 Numerical Computation
第五章 机器学习基础
5 Machine Learning Basics
第六章 深度前馈网络
6 Deep Feedforward Networks
第七章 深度学习中的正则化
7 Regularization for Deep Learning
第八章 深度模型中的优化
8 Optimization for Training Deep Models
第九章 卷积网络
9 Convolutional Networks
第十章 序列建模:循环和递归网络
10 Sequence Modeling: Recurrent and Recursive Nets
第十一章 实践方法论
11 Practical Methodology
第十二章 应用
12 Applications
第十三章 线性因子模型
13 Linear Factor Models
第十四章 自编码器
14 Autoencoders
第十五章 表示学习
15 Representation Learning
第十六章 深度学习中的结构化概率模型
16 Structured Probabilistic Models for Deep Learning
第十七章 蒙特卡罗方法
17 Monte Carlo Methods
第十八章 直面配分函数
18 Confronting the Partition Function
第十九章 近似推断
19 Approximate Inference
第二十章 深度生成模型
20 Deep Generative Models
尚未上传的章节会在后续陆续上传。
致谢
非常感谢对本项目的认可和推广。
在此感谢:
赞助
本项目书写耗费时间精力。如果本项目对你有帮助,可以请作者吃份冰淇淋: