Python深度学习（Keras+）（肖莱）个人学习笔记——第一章

声明：文中内容基于Python深度学习（Keras+）（肖莱）的个人学习成果，本系列文章为本书的个人知识要点摘抄和总结笔记。未经允许禁止转载

第一章 什么是深度学习

——1.1　人工智能、机器学习与深度学习——

人工智能的简洁定义：努力将通常由人类完成的智力任务自动化。
人工智能是一个综合性的领域，不仅包括机器学习与深度学习，还包括更多不涉及学习的方法。

符号主义人工智能：只要程序员精心编写足够多的明确规则来处理知识，就可以实现与人类水平相当的人工智能。

机器学习：一种新的方法来替代符号主义人工智能所无法完成的来解决更加复杂、模糊的问题。如图像分类、语音识别和语言翻译。

——1.1.2　机器学习——
图灵提出问题：对于计算机而言，除了“我们命令它做的任何
事情”之外，它能否自我学习执行特定任务的方法？计算机能否让我们大吃一惊？如果没有程序员精心编写的数据处理规则，计算机能否通过观察数据自动学会这些规则？

利用机器学习，人们输入的是数据和从这些数据中预期得到的答案，系统输出的是
规则。这些规则随后可应用于新的数据，并使计算机自主生成答案。

——1.1.3　从数据中学习表示——
机器学习的三个要素：

1. 输入数据点。(若要语音识别，输入声音；若要图像处理，输入图像)
2. 预期输出的示例。（语音识别预期：输出识别的文本；图像识别：输出识别出的猫、狗等）
3. ★ 衡量算法效果好坏的方法。（为了计算算法的当前输出与预期输出的差距）
   衡量结果是一种反馈信号，用于调节算法的工作方式。这个调节步骤就是我们所说的学习。

机器学习和深度学习的核心问题在于有意义地变换数据

机器学习的技术定义：在预先定义好的可能性空间中，利用反馈信号的指引来寻找输入数据的有用表示。

——1.1.4　深度学习之“深度”——

深度学习是机器学习的一个分支领域
“深度学习”中的“深度”是指一系列连续的表示层。数据模型中包含多少层，这被称为模型的深度。
神经网络的结构是逐层堆叠。
（例）深度学习对数字图像进行变换，以便识别图像中所包含的数字。
深度学习的技术定义：学习数据表示的多级方法。

信息穿过连续的过滤器，其纯度越来越高

——1.1.5 深度学习的工作原理——

神经网络中每层对输入数据所做的具体操作保存在该层的权重（weight）中，其本质是一串数字。每层实现的变换由其权重来参数化。

学习的意思是为神经网络的所有层找到一组权重值，使得该网络能够将每个示例输入与其目标正确地一一对应。

一个深度神经网络可能包含数千万个参数。找到所有参数的正确取值可能是一项非常艰巨的任务，特别是考虑到修改某个参数值将会影响其他所有参数的行为。

想要控制神经网络的输出，就需要能够衡量该输出与预期值之间的距离。
这是神经网络损失函数（loss function）的任务，该函数也叫目标函数（objective function）。损失函数的输入是网络预测值与真实目标值（即你希望网络输出的结果），然后计算一个距离值，衡量该网络在这个示例上的效果好坏。

深度学习的基本技巧：由优化器利用距离值作为反馈信号来对权重值进行微调，以降低当前示例对应的损失值。

深度学习的核心算法： 反向传播（backpropagation）算法。