《tensorflow 实战Google深度学习构架》第一章

1.1 人工智能、机器学习与深度学习

++机器学习的定义：如果一个程序可以在任务T上，随着经验E的增加，效果P也随之增加，则称这个程序可以从经验中学习。
++许多传统机器学习算法（如：用逻辑回归算法筛选垃圾邮件）需要训练数据（经验E），以提高准确率（效果P）。同时，还需要有效的影响因素（特征）。但传统机器学习算法无法从数据中习得更好的特征表达。
++深度学习可以自动的将简单的特征组合成更加复杂的特征，并使用这些特征解决问题。深度学习是机器学习的一个分支，它除了可以学习特征和任务之间的关联之外，还能自动从简单特征中提取更加复杂的特征。
++深度学习受启于神经科学。但如今，深度学习不再是试图模仿人类大脑。而是关注如何搭建智能的计算机系统.

1.2深度学习的发展历程

++”深度学习”即深度神经网络.其历史可分为三个阶段.
+++第一阶段(1940s)神经网络模型类似与仿生机器学习.McCulloch-Pitts Neuron结构使用简单的线性加权和的方式来模拟信号变换.感知机只能解决线性可分问题,无法解决异或问题.
+++第二阶段(20世纪80年代末)神经网络的研究因分布式知识表达(distributed representation)和神经网络反向传播算法的提出而兴起.前者的核心思想是知识和概念应该通过多个神经元来表达,同时,每个神经元也应该表达多个概念.以此解决类似异或问题等线性不可分问题.反向传播算法可以节约时间.卷积神经网络和循环神经网络都是在该阶段得到发展,LSTM模型.
+++第三阶段云计算,GPU等的出现,解决了计算资源和数据量的问题.使得深度学习得到很大发展.

1.3深度学习的应用

++