第1章 什么是深度学习

1.1 人工智能、机器学习与深度学习

1.1.1 人工智能

努力将通过由人类完成的智力任务

1.1.2 机器学习

机器学习系统是训练出来的。

1.1.3 从数据中学习表示

需要三个要素来进行机器学习：

• 输入数据点
• 预期输出的示例
• 衡量算法效果好坏的方法

机器学习和深度学习的核心问题在于有意义地变换数据，换句话说，在于学习输入数据的有用表示——这种表示可以让数据更接近预期输出。

机器学习中的学习指的是，寻找更好数据表示的自动搜索过程。

机器学习：在预先定义好的可能性空间中，利用反馈信号的指引来寻找输入数据的有用表示。

1.1.4 深度学习之“深度”

深度学习是从数据中学习表示的一种数学框架。

深度学习：学习数据表示的多级方法。

1.1.5 用三张图理解深度学习的工作原理

神经网络中每层对输入数据所做的具体操作保存在该层的权重中，其本质是一串数字。每层实现的变换由其权重来参数化。

想要控制神经网络的输出，就需要能够衡量该输出与预期值之间的距离。损失函数或者目标函数。

利用这个距离值做为反馈信号来对权重值进行微调，以降低当前示例对应的损失值。就是优化器，所谓的反向传播算法。

这是一个简单的机制，一旦具有足够大的规模，就会产生魔法般的效果。

1.1.6 深度学习已经取得的进展

1.1.7 不要相信短期炒作

1.1.8 人工智能的未来

1.2 深度学习之前：机器学习简史

1.2.1 概率建模

最有名的算法：朴素贝叶斯算法

1.2.2 早期神经网络

1.2.3 核方法

1.2.4 决策树、随机森林与梯度提升机

1.2.5 回到神经网络

1.2.6 深度学习有何不同

深度学习两个基本的特征：
第一：通过渐进的，逐层的方式形成越来越复杂的表示
第二：对中间这些渐进的表示共同进行学习

1.2.7 机器学习现状

梯度提升机，用于浅层学习问题，熟悉XGBoot;
深度学习，用于感知问题，熟悉Keras

1.3 为什么是深度学习，为什么是现在

1.3.1 硬件

1.3.2 数据

1.3.3 算法

1.3.4 新的投资热潮

1.3.5 深度学习的大众化

1.3.6 这种趋势会持久吗