【grokking·Deep Learning】读书笔记二

这次接着来讲本书的第二章。第二章主要提出了以下三个问题。

• 什么是深度学习、机器学习和人工智能？

• 什么是监督学习和非监督学习？

• 什么是参数模型和非参数模型？

1、什么是深度学习、机器学习和人工智能？

• 概念

深度学习是一个专门研究和开发可以学习的机器的领域。在工业界，深度学习主要用于处理计算机视觉、自然语言处理、语音识别等问题。神经网络是深度学习的一种常用工具。

机器学习是一个研究计算机如何在不进行显式编程的情况下进行学习的领域。简单的来说，机器学习观察一种模式，然后学习它。

人工智能（Artificial intelligence）简称AI。人工智能是计算机科学的一个分支，它企图了解智能的本质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器，是一个以计算机科学为基础，将哲学、心理学、数学等多领域与之交叉融合所形成的新的领域。 

                                                       

• 区别与联系

如上所示，深度学习是机器学习的一种方法，而机器学习是实现人工智能的一种方法。

2、什么是监督学习和非监督学习？

上面提到，机器学习是看到一个模式观察它然后学习它，但其过程可以是直接的也可以是间接的，这就引出了所谓的监督学习和非监督学习。监督学习和非监督学习分别为机器学习的两种平行的学习方式，在工业上有着广泛的使用，但在大部分机器学习的工作都是在训练一种有监督的分类器，即便是无监督学习也是在帮助监督学习提高其准确率。

• 监督学习

监督学习是一种学习转化一个数据集（输入）成为另一个数据集（输出）的方法。监督学习是应用人工智能的黄油和面包，它帮助人类从已知向未知探索，以一种无限的方式实现人类能力和智力的提升。

 

一些例子

• 使用图像的像素（输入）来检测猫的存在或不存在（输出）。

• 使用你喜欢的电影（输入）来预测更多你可能喜欢的电影（输出）。

• 用某人的话（输入）来预测他们是否快乐或悲伤（输出）。

• 使用天气传感器数据（输入）预测下雨的概率（输出）。

• 使用汽车发动机传感器（输入）预测最佳调谐设置（输出）。

• 使用新闻数据（输入）预测明天的股票价格（输出）。

• 使用原始音频文件（输入）来预测音频的转录本（输出）。

 

• 非监督学习

 

无监督学习与监督学习类似，都是学习一种模式将一个数据集转化为另一个数据集，不同的是相比于监督学习而言，另一个数据集是未知的。无监督学习试图从数据中找到一种模式，以聚类为例，模型试图从数据中发现一种结构能对数据进行划分使之分为若干类簇。事实上，大部分的无监督学习可以看作是一种聚类。

3、什么是参数模型和非参数模型？

前面介绍的监督学习与无监督学习的划分是关于模型学习的类型，而参数模型与非参数模型的划分是关于模型学习的储存方式。具体而言，参数模型的特征是具有固定数量的参数，而非参数模型的参数数是无限的（由数据决定），换句话说，参数模型倾向于使用试错，而非参数模型倾向于使用计数。

书中举了一个例子来说明参数模型与非参数模型之间的关系。假设我们的的问题是将一个方钉安装到正确的孔之中，如果是参数模型，那它会将方钉塞进每一个孔当中，直到找到一个合适的孔，而非参数模型，则会计算钉子的边数，然后用相等的边数进行搜索。

• 监督的参数学习

监督的参数模型好比与具有固定数量的旋钮（参数部分）的机器，其中的学习过程是通过调节旋钮的角度进行的。当输入数据输入进来通过已经学习好的旋钮得到对应的输出数据。

举例来说，假如我们希望预测足球队赢球的概率，则模型的第一步获取数据（例如天气、队员的踢球水平等），第二步将得到的数据输入到模型之中得到预测值（例如有98%概率赢），第三步根据具体的实际情况更新模型使得再下一次再遇到类似的数据能够很好的预测。如果某个变量对结果有很好的预测能力，则调大该旋钮，反之则调小该旋钮。

参数模型中旋钮的数量是固定的，模型通过试错来找旋钮的最优配置。

• 非监督的参数模型

和监督的参数模型一样，无监督的参数模型也是使用旋钮来对数据进行分组，不同的是每个组有多个旋钮。每组旋钮试图将输入数据转化为0到1之间的数字用来表示该组成员的概率

• 非参数模型

非参数模型是一种参数个数随着数据变化而变化的算法。这种方法根据数据以某种方式计算计数的项数从而增加参数的数量。

常见非参数模型的例子有：决策树、朴素贝叶斯、神经网络、支持向量机

欢迎加入学习交流群

添加助手微信，可加入微信交流群