深度学习的发展历程

参考书籍《Tensorflow实战Google深度学习框架》郑泽宇等

要想学习深度学习这门技术，那么有必要对其发展作一定程度的了解。深度学习其实不是一门新技术，目前大家熟悉的“深度学习”基本上是深度神经网络的一个代名词，神经网络技术可追溯到1943年。深度学习之所以被人们认为是新技术，那是因为它在21世纪初并不流行。神经网络的发展不是一番风顺，它的发展经历了三个起落，也可分为三个阶段。

第一阶段：

受到人类大脑结构的启发，WarrenMcCulloch教授和Walter Pitts教授于1943年在论文中提出了最早的神经网络数学模型，这种模型结构称为McCulloch-Pitts Neuron结构。此结构利用简单的线性加权和的方式来模拟人类神经元对输入信号的处理，计算后的加权和通过一个阀值函数得到一个0或1的输出，此类结构能用于简单的线性分类问题。