初学深度学习——《深入浅出深度学习：原理剖析与python实践》

人工智能、机器学习与深度学习的关系
要理解三者之间的关系，可以通过同心圆来可视化表示三者的关系。 最外面的圆
环代表人工智能，里面一层表示机器学习，人工神经网络和深度学习处于中心位置，
也可以简单理解为机器学习是人工智能的一个分支，而深度学习则是一种特殊的机器
学习实现方法。它们之间的关系如下图所示：

1、人工智能——机器推理
所谓的通用人工智能（ General Artificial Intelligence ）或强
人工智能，即让机器拥有人类的所有感觉、所有理智，像人类一样思考。
2、机器学习——数据驱动的科学
机器学习，也被称为统计机器学习，是人工智能领域的一个分支，其基本思想是基于数据构建统计模型，并利用模型对数据进行分析和预测的一门学科。
3、深度学习——大脑的仿真
2006年， Geoffe Hinton在Science杂志上发表了论文，首次提出了“深度信念网络”的概念 。 传统的训练方式采用随机初始化的方式来初始化权重参数，与传统的训练方式不同，深度信念网络有一个预训练（ pre-training ）的过程，这样可以方便神经网络中的权值找到一个接近最优解的初始值，再使用“微调（ fine-tuning ）”技术来对整个网络进行优化训练。 这两个技术的运用大幅度减少了训练多层神经网络的时间，并且有效地缓解BP算法导致的梯度消失问题，它给多层神经网络相关的学习方法赋予了一个新名词一一深度学习。