1.1.3 【Deep Learning翻译系列】Supervised Learning with Neural Network 使用神经网络的监督学习

1、神经网络的应用

有很多关于神经网络的炒作(hype)。也许有些炒作是合理的，因为他们工作得多好。但事实证明，迄今为止，几乎所有由神经网络产生的经济价值都是通过一种机器学习，称为监督式学习。我们来看一些例子。在监督式学习中，您有一些输入x，并且您想要学习映射到某个输出y的函数。

例如，刚才我们看到了房屋价格预测应用程序，您可以在其中输入房屋的某些功能并尝试输出或估计价格y。以下是其他一些神经网络已被非常有效地应用的例子。

可能今天深度学习的一个最有利可图的应用是在线广告，也许不是最鼓舞人心的，但肯定非常有利可图的，其中通过向网站输入关于广告的信息，它想要展示给你，以及关于用户的一些信息，神经网络已经非常好地预测你是否点击广告。通过向您展示并向用户展示您最有可能点击的广告，这对于多家公司来说都是一个令人难以置信的有利可图的神经网络应用。因为向您展示您更可能点击的广告的能力直接影响了一些非常大的在线广告公司的底线。

计算机视觉在过去几年中也取得了巨大的进步，主要是由于深度学习。所以你可能会输入一个图像，并希望输出一个索引，比如说从1到1000，试图告诉你这张图片是否可以是1000个不同的图像中的任何一张。所以，你可能会为我们做照片标记。

我认为语音识别方面的最新进展也非常令人兴奋，您现在可以在音频片段中输入一个神经网络，并输出文本记录。由于深度学习，机器翻译也取得了巨大的进步，现在您可以通过神经网络输入英文句子并直接输出中文句子。

在自动驾驶中，您可以输入图像，说出车前的图像以及雷达的一些信息，并基于此，可以训练一个神经网络来告诉您另一个人的汽车在路上的位置。所以这成为自动驾驶系统的关键组成部分。所以通过神经网络创造的价值很大程度上是通过巧妙地选择什么应该是x以及针对您的特定问题应该是什么y，然后将这个监督学习组件经常配合到更大的系统中，例如自动驾驶。

2、神经网络的类型

事实证明，不同类型的神经网络对于不同的应用是有用的。例如，在我们在前一个视频中看到的房地产应用中，我们使用通用标准的神经网络架构，也许对于房地产和在线广告而言，这可能是一个相对适用的神经网络，就像我们看到的那样。

对于图像应用，我们通常会在神经网络上使用卷积，通常缩写为CNN。对于序列数据。举例来说，音频具有时间分量，随着时间的推移音频会被播放出去，所以音频最自然地表现为一维时间序列或者一维时间序列。对于序列数据，您经常使用RNN（一种递归神经网络）。语言，英文和中文，字母或单词一次一个。所以语言也最自然地表示为序列数据。所以更复杂的RNN版本经常用于这些应用程序。

然后，对于更复杂的应用，比如自动驾驶，那里有图像，这可能意味着更多的CNN卷积神经网络结构和雷达信息是完全不同的。你可能会得到一个更自定义的，或者更复杂的混合神经网络架构。

所以，只需要确定一些标准的CNN和RNN体系结构。在文献中你可能看到过左边这样的照片。这是一个标准的神经网络。你可能看过中间这样的照片。这是一个卷积神经网络的例子，我们将在后面的课程中看到这张图片意味着什么，以及如何实现这一点。但卷积网络通常用于图像数据。你也可能看过右边这样的照片，并且您将学习如何在以后的课程中实现这一点。递归神经网络对于这种类型的可能具有时间分量的一维序列数据非常有用。

3、结构化/非结构化数据

您可能也听说过有关机器学习的应用程序，可用于结构化数据和非结构化数据。以下是这些术语的含义。结构化数据基本上意味着数据的数据库。例如，在房屋价格预测中，您可能会有一个数据库或专栏来告诉您房间的大小和数量。因此，这是结构化数据，或者预测用户是否点击广告，您可能会获得有关用户的信息，例如年龄，有关广告的某些信息，然后标记您尝试访问的原因预测。这就是结构化数据，这意味着每个功能（如房屋的大小，卧室的数量或用户的年龄）都具有非常明确的含义。

相比之下，非结构化数据指的是音频，原始音频或图像，您可能想要识别图像或文本中的内容。这里的功能可能是图像中的像素值或文本中的单个单词。历史上，与结构化数据相比，计算机很难理解非结构化数据。而且人类已经发展成非常善于理解音频线索和图像的事实。然后文本是一个更新的发明，但人们非常善于解释非结构化数据。因此，神经网络兴起的最令人兴奋的事情之一是，由于深度学习，得益于神经网络，与几年前相比，计算机现在更好地解释非结构化数据。这为许多令人兴奋的应用程序创造了机会，这些应用程序使用语音识别，图像识别，文本自然语言处理，

甚至比两三年前还要多得多。我认为，因为人们对理解非结构化数据有天生的兴趣，所以您可能会听到神经网络在非结构化数据方，比如多媒体数据处理中获得成功，因为当神经网络识别出一只猫时它很酷。我们都喜欢这一点，我们都知道这意味着什么。但事实证明，神经网络创造的很多短期经济价值也都在结构化数据上，比如更好的广告系统，更好的利润建议，以及更好的处理大型数据库的能力，以至于许多公司必须从他们做出准确的预测。因此，在这门课程中，我们将要学习的很多技术都适用于结构化数据和非结构化数据。为了解释算法，我们将更多地介绍使用非结构化数据的示例。但是当你想通过你自己团队中的神经网络应用时，我希望你能够在结构化和非结构化数据中找到它们的用途。

所以神经网络已经改变了监督式学习，并创造了巨大的经济价值。然而事实证明，神经网络背后的基本技术理念大部分都存在了甚至几十年。那么，为什么他们现在才刚起步并且工作得如此之好呢？在下一个视频中，我们将讨论为什么最近神经网络已经成为您可以使用的这个令人难以置信的强大工具。