【AI 学习】2.机器学习和深度学习综述

人工智能、机器学习、深度学习的关系

近些年人工智能、机器学习和深度学习的概念十分火热，但很多从业者却很难说清它们之间的关系，外行人更是雾里看花。在研究深度学习之前，我们先从三个概念的正本清源开始。

概括来说，人工智能、机器学习和深度学习覆盖的技术范畴是逐层递减的。人工智能是最宽泛的概念。机器学习是当前比较有效的一种实现人工智能的方式。深度学习是机器学习算法中最热门的一个分支，近些年取得了显著的进展，并替代了大多数传统机器学习算法。三者的关系如 图1 所示，即：人工智能 > 机器学习 > 深度学习。

图1：人工智能、机器学习和深度学习三者关系示意

如字面含义，人工智能是研发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。由于这个定义只阐述了目标，而没有限定方法，因此实现人工智能存在的诸多方法和分支，导致其变成一个“大杂烩”式的学科。 # 机器学习 区别于人工智能，机器学习、尤其是监督学习则有更加明确的指代。机器学习是专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构，使之不断改善自身的性能。这句话有点“云山雾罩”的感觉，让人不知所云，下面我们从机器学习的实现和方法论两个维度进行剖析，帮助读者更加清晰的认识机器学习的来龙去脉。 ## 机器学习的实现 机器学习的实现可以分成两步：训练和预测，类似于我们熟悉的归纳和演绎： * **归纳：** 从具体案例中抽象一般规律，机器学习中的“训练”亦是如此。从一定数量的样本（已知模型输入XX和模型输出YY）中，学习输出YY与输入XX的关系（可以想象成是某种表达式）。 * **演绎：** 从一般规律推导出具体案例的结果，机器学习中的“预测”亦是如此。基于训练得到的YY与XX之间的关系，如出现新的输入XX，计算出输出YY。通常情况下，如果通过模型计算的输出和真实场景的输出一致，则说明模型是有效的。 ## 机器学习的方法论 下面从“牛顿第二定律”入手，介绍机器学习的思考过程，以及在过程中如何确定模型参数、模型三个关键部分（假设、评价、优化）如何应用。 ### 案例：牛顿第二定律 机器学习的方法论和人类科研的过程有异曲同工之妙，下面以“机器从牛顿第二定律实验中学习知识”为例，帮助读者更加深入理解机器学习（监督学习）的方法论本质。 ------ **牛顿第二定律** 牛顿第二定律是艾萨克·牛顿在1687年于《自然哲学的数学原理》一书中提出的，其常见表述：物体加速度的大小跟作用力成正比，跟物体的质量成反比，且与物体质量的倒数成正比。牛顿第二运动定律和第一、第三定律共同组成了牛顿运动定律，阐述了经典力学中基本的运动规律。 ------ 在中学课本中，牛顿第二定律有两种实验设计方法：倾斜滑动法和水平拉线法，如 **图2** 所示。

图2：牛顿第二定律实验设计方法

相信很多读者都有摆弄滑轮和小木块做物理实验的青涩年代和美好回忆。通过多次实验数据，可以统计出如 **表1** 所示的不同作用力下的木块加速度。

| 项目 | 作用力X | 加速度Y | | -------- | -----: | :----: | | 第1次 | 4 | 2 | | 第2次 | 5 | 2.5 | | ... | ... | ... | | 第n次 | 6 | 3 |

表1：实验获取的大量数据样本和观测结果

 

观察实验数据不难猜测，物体的加速度aa和作用力之间的关系应该是线性关系。因此我们提出假设 a=w⋅Fa=w⋅F，其中，aa代表加速度，FF代表作用力，ww是待确定的参数。

通过大量实验数据的训练，确定参数ww是物体质量的倒数(1/m)(1/m)，即得到完整的模型公式a=F⋅(1/m)a=F⋅(1/m)。当已知作用到某个物体的力时，基于模型可以快速预测物体的加速度。例如：燃料对火箭的推力FF=10，火箭的质量mm=2，可快速得出火箭的加速度aa=5。

确定模型参数

这个有趣的案例演示了机器学习的基本过程，但其中有一个关键点的实现尚不清晰，即：如何确定模型参数（w=1/m）（w=1/m）？

确定参数的过程与科学家提出假说的方式类似，合理的假说至少可以解释所有的已知观测数据。如果未来观测到不符合理论假说的新数据，科学家会尝