机器学习和深度学习的区别和选择

 

大年初一在家学了整整一天，ennnnn突然我就想系统的了解下机器学习和深度学习的区别。学习知识的同时，也看看视频学学英语，舒服。

机器学习和深度学习：提供训练模型和数据分类的方法。

谷歌的 Google i/o开发者大会上反复提到了机器学习（真是让人激动人心）

那么什么是机器学习呢？

吴恩达的机器学习的公开课中提到了Tom Mitchell（他卡内基梅隆大学的一个朋友）的定义：

“A computer program is said to learn from experience E with respect to some class of tasksT and performance measure P if its performance at tasks inT, as measured by P, improves with experience E ”

翻译：“计算机程序从E中学习，解决某一任务T进行某一性能度量P,通过P测定在T上面的表现因经验E而提高。”

即一个计算机程序要完成任务T，如果计算机获取的关于T的经验E越多就表现P得越好，那么我们就可以说这个程序‘学习’了关于T的经验。从中我们看到何为“学习”——即输入的经验越多表现的越好。

我抽取整理并补充了MathWorks的产品市场经理Johanna Pingel的视频演讲《Introduction to Deep Learning: Machine Learning vs Deep Learning》中一些介绍：

机器学习的流程图

如上首先我们从一个图片开始，然后从中提取相关的特征，再创建一个模型来描述和预测对象，随后进行机器学习，让机器最终可以实现对目标的识别。

like this:

通过人工设置如图的特征或指标，也就是机器学习中的“特征”，来对机器进行训练来实现对以上动物的分类。

机器学习的核心是试验和错误。我们不能手动编写程序来帮助机器区分动物，但我们可以为程序创建一套使用数据来解决问题的算法。机器学习通常是在低端设备上运行的，它会将问题分解成多个部分。每个部分会按顺序被解决，然后组合在一起以创建单个问题答案。

就是说呢，当我们在做这样一个预测系统的时候，首先要由专家通过分析哪些“特征”是重要的，然后机器就通过分析历史数据中的这些特征的数据，来找到相应的模式，也就是怎样的特征的组合会导致怎样的结果。

要明白机器学习和深度学习的不同，有一点很重要：即机器学习要通过人工设置特征或指标。

 

而随着深度学习的出现:我们就可以跳过从图像中提取特征的手工步骤

那么什么是深度学习？

Deep learning is a particular kind of machine learning that achieves great power and flexibility by learning to represent the world as nested hierarchy of concepts, with each concept defined in relation to simpler concepts, and more abstract representations computed in terms of less abstract ones.

翻译：深度学习是一种特殊的机器学习，它可以获得高性能也十分灵活，它可以用概念组成的网状层级结构来表示这个世界，每一个概念更简单的概念相连，抽象的概念通过没那么抽象的概念计算。

like this:

深度学习流程图

你可以直接输图像到深度学习算法中，然后预测对象。

深度学习是“更深层次”的机器学习。它的灵感来源于人类大脑的工作方式，但需要能够处理数字和巨量大数据的独立显卡的高端计算机才能工作。相比会把问题分解成多个部分并逐个解决的标准机器学习算法，深度学习会以端到端的方式来解决问题。更棒的是，提供深度学习算法的数据和时间越多，解决任务的效果越好。

所以实际上深度学习是机器学习的一个子类型。它可以直接处理图片，但是常常也更复杂。

 

那么怎么去选择呢？

让我们先从硬件的角度来看：

 

你是否拥有高性能GPU和大量的标签数据。

如果你没有其中的任何一个，那么你的选择机器学习会更好！而不是深度学习。

因为深度学习往往更复杂，你往往需要大量的数据才会还可靠地结果，你同样需要一个高性能的GPU，使得模型得以分析这些图片的时间最少。(讲到这里庆幸笔者学校有个超算)

如果你选择机器学习，你可以选择在不同的分类器中训练你的模型，你还可以知道那些特征会产生最佳效果，再加上机器学习，你可以灵活的选择各种路径进行组合，用不同的分类器和特征来查看哪种好组合最适合你的数据。

 

以下是它们的特点对比：

 

如果训练数据量达到百万以上，那么深度学习的方法会比较有优势。如果样本集不是大样本，那么特征工程加传统的机器学习方法使用起来泛化能力会更好。若对结果有较强的解释性和可调节性，一般机器学习方法有一定的优势。解释性让我们能够了解到产生该输出结果的原因，让我们能够知道特征的重要程度，并在出错时能够对错误原因进行分析。可调节性是指在出错或有特征的增删时，方便对原模型进行修正以满足新的要求。

 

under modern conditions，由于深度学习的高度准确，相比于机器学习，深度学习更为流行。但是深度学习的模型往往需要很长的时间去训练出来，而且如果有些东西出错令它不能正常工作，你很难去调试。

总之，选择机器学习还是深度学习，取决于你的数据和你要解决的问题（当然硬件平台也非常重要）。