AI深度学习简介

在萌芽时期，人工智能 （AI） 主要关注基于规则的系统，这些系统将使用必须由主题专家提供的预定义规则集进行预测。然而，这些系统很脆弱，依赖于这些“专家意见”，最终导致它们过时。随着数据规模和数量的增加，这些方法被一种更加数据驱动的方法所取代，即机器学习。

机器学习与深度学习   

机器学习是算法和工具的集合，可帮助机器理解数据中的模式，并使用这种底层结构对给定任务进行推理。机器可以通过多种方式来理解这些基本模式。但是机器学习与深度学习有什么关系呢？在本文中，我们概述了深度学习如何适应这一领域，并讨论了它的一些应用和挑战。

人们越来越误解深度学习是机器学习领域的竞争技术。在本文中，我们将讨论其中的一些误区，并解释深度学习与机器学习的关系，以及在某些应用中使用深度学习算法的优势。

从长远来看，深度学习是机器学习的一个子领域。凭借加速的计算能力和大型数据集，深度学习算法能够自我学习数据中的隐藏模式以进行预测。

从本质上讲，您可以将深度学习视为机器学习的一个分支，它基于大量数据进行训练，并处理许多协同工作以执行预测的计算单元。

深度学习与人脑

为了创建学习方式类似于人类学习方式的系统，深度学习的底层架构受到人脑结构的启发。出于这个原因，深度学习中的许多基本术语可以映射到神经学。与神经元如何形成大脑的基本构建块类似，深度学习架构包含一个计算单元，允许对称为感知器的非线性函数进行建模。

深度学习的魔力始于不起眼的感知器。类似于人脑中的“神经元”如何在整个神经系统中传递电脉冲，感知器接收一系列输入信号并将其转换为输出信号。

感知器旨在通过将许多层堆叠在一起来理解数据表示，其中每一层负责理解输入的某些部分。可以将层视为计算单元的集合，这些计算单元学习检测值的重复出现。

每一层感知器都负责解释数据中的特定模式。这些感知器的网络模仿大脑中的神经元如何形成网络，因此该架构称为神经网络（或人工神经网络）。

人工神经网络

本节概述了深度学习、人工神经网络 （ANN） 背后的架构，并讨论了一些关键术语。

如下图所示，每个感知器由以下几部分组成：

第 1 步 - 计算加权总和

• 输入 x1 到 xn，也可以用向量 X 表示。 X i 表示数据集中的第i 个条目。数据集中的每个条目都包含 n 个因变量。
• 权重 w1 到 wn，可以表示为矩阵 W
• 偏置项 b，它是一个常数

第 2 步 - 激活功能

步骤 1 的输出现在通过激活函数传递。激活函数 g 是一个数学函数，可用于在将输出发送到下一层之前将输出转换为所需的非线性格式。它将求和结果映射到所需的范围。这有助于确定神经元是否需要被激活。

例如，sigmoid 函数将值映射到范围 [0,1]，如果您希望系统预测概率，这将非常有用。这样可以对复杂的非线性决策边界进行建模。

浅层神经网络

在上一节中，您看到了每个感知器中发生的计算。现在，您将看到这些感知器如何适应网络以及如何完成流程。

在最基本的形式中，神经网络包含三层：输入层、隐藏层和输出层。如下图所示，只有一个隐藏层的网络称为浅层神经网络。

前几节中讨论的计算发生在神经网络中的所有神经元上，包括输出层，其中一次称为前向传播。完成一次前向传递后，输出图层必须将其结果与实际真值标签进行比较，并根据真值与预测值之间的差异调整权重。这个过程是通过神经网络的向后传递，称为反向传播。虽然反向传播背后的数学原理不在本文的讨论范围之内，但该过程的基础知识可以概述如下：

• 该网络致力于最小化目标函数，例如，数据样本中所有点之间产生的误差。
• 在输出层，网络必须计算所有数据点的总误差（实际值和预测值之间的差值），并取其相对于该层权重的导数。误差函数相对于权重的导数称为该层的梯度。
• 然后，该图层的权重将根据梯度进行更新。此更新可以是梯度本身，也可以是梯度的一个因素。这个因素被称为学习率，它控制着你改变权重所采取的步数。
• 然后对它之前的一层重复该过程，并一直持续到到达第一层。
• 在此过程中，可以重用先前层的梯度值，从而提高梯度计算效率。

前向传播和反向传播的一次传递结果是网络层权重的变化，并使系统更接近于对提供给它的数据集进行建模。由于此过程使用梯度来最小化整体误差，因此将神经网络的参数收敛到最佳值的过程称为梯度下降。

深度神经网络

深度神经网络只是一个具有多个隐藏层的浅层神经网络。隐藏层中的每个神经元都连接到许多其他神经元。每个箭头都有一个附加的权重属性，该属性控制该神经元的激活对附加到它的其他神经元的影响程度。

深度学习中的“深度”一词归因于这些深层隐藏层，并从中得出其有效性。选择隐藏层的数量取决于问题的性质和数据集的大小。下图显示了具有两个隐藏层的深度神经网络。

应用

深度学习在医疗保健、金融和图像识别等几乎所有领域都有广泛的应用。在本节中，让我们介绍一些应用程序。

• 医疗保健：随着加速 GPU 的更轻松访问和大量数据的可用性，医疗保健用例非常适合应用深度学习。使用图像识别，MRI成像和X射线的癌症检测已经超过了人类的准确性水平。药物发现、临床试验匹配和基因组学是其他流行的基于医疗保健的应用。
• 自动驾驶汽车：尽管自动驾驶汽车是一个有风险的自动化领域，但它最近已经转向成为现实。从识别停车标志到看到道路上的行人，基于深度学习的模型在模拟环境中进行训练和尝试，以监控进度。
• 电子商务：产品推荐一直是深度学习最受欢迎和最有利可图的应用之一。通过更加个性化和准确的推荐，客户能够轻松购买他们正在寻找的商品，并能够查看他们可以选择的所有选项。这也加速了销售，从而使卖家受益。
• 个人助理：由于深度学习领域的进步，拥有个人助理就像购买Alexa或Google Assistant等设备一样简单。这些智能助手在个性化语音和口音识别、个性化推荐和文本生成等各个方面使用深度学习。

显然，这些只是深度学习可以应用的众多应用中的一小部分。股票市场预测和天气预报也是深度学习同样受欢迎的领域。

深度学习挑战

尽管深度学习方法在过去 10 年左右的时间里获得了极大的普及，但这个想法自 1950 年代中期以来就已经存在，当时 Frank Rosenblatt 在 IBM® 704 机器上发明了感知器。它是一种基于两层的电子设备，具有检测形状和进行推理的能力。近年来，该领域的进步主要是由于计算能力和高性能图形处理单元 （GPU） 的提高，加上这些模型可供学习的数据财富大幅增加，以及社区对继续研究的兴趣和资金。尽管深度学习在过去几年中已经起飞，但它确实带来了一系列挑战，社区正在努力解决这些挑战。

对数据的需求

当今流行的深度学习方法非常需要数据，许多复杂的问题（如语言翻译）都没有复杂的数据集可用。在资源匮乏的语言之间执行神经机器翻译的深度学习方法通常表现不佳，而诸如领域适配（将从开发高资源系统中获得的经验应用于低资源方案）近年来已显示出前景。对于姿态估计等问题，生成如此大量的数据可能很困难。实际上，模型最终训练的合成数据与模型最终需要执行的“野外”设置有很大不同。

可解释性和公平性

尽管深度学习算法已被证明可以超越人类水平的准确性，但没有明确的方法来回溯并提供每个预测背后的原因。这使得它很难在金融等应用中使用，因为在金融应用中，需要提供每笔被批准或拒绝的贷款背后的原因。

另一个容易成为问题的维度是数据本身的潜在偏差，这可能导致模型在关键数据子集上的性能不佳。使用基于奖励的机制的学习代理有时会停止道德行为，因为它们需要最大化系统错误所需的只是最大化他们获得的奖励。展示了代理如何简单地停止玩游戏并最终陷入收集奖励积分的无限循环中。虽然这在游戏场景中可能是可以接受的，但错误或不道德的决定可能会在现实世界中产生深远的负面影响。迫切需要让模型以平衡的方式学习。

IBM 有一个开源工具包，AI300系列这是一个用于检测、调查和减轻深度学习算法中的偏差的工具包。作为深度学习研究人员，在设计和进行这些实验时，我们必须牢记这些挑战。

总结

看完了本文中的所有信息后，您现在可以更深入地了解您的深度学习之旅了。人工神经网络有多种变化和补充，有助于为不同的应用实现看不见的精度水平。请继续关注本系列的更多文章。后续我也会更新深度学习入门的后续部分。

   在线教程

• 麻省理工学院人工智能视频教程 – 麻省理工人工智能课程
• 人工智能入门 – 人工智能基础学习。Peter Norvig举办的课程
• EdX 人工智能 – 此课程讲授人工智能计算机系统设计的基本概念和技术。
• 人工智能中的计划 – 计划是人工智能系统的基础部分之一。在这个课程中，你将会学习到让机器人执行一系列动作所需要的基本算法。
• 机器人人工智能 – 这个课程将会教授你实现人工智能的基本方法，包括：概率推算，计划和搜索，本地化，跟踪和控制，全部都是围绕有关机器人设计。
• 机器学习 – 有指导和无指导情况下的基本机器学习算法
• 机器学习中的神经网络 – 智能神经网络上的算法和实践经验
• 斯坦福统计学习

有需要的小伙伴，可以点击下方链接免费领取或者V扫描下方二维码免费领取🆓
​

人工智能书籍

• OpenCV（中文版）.(布拉德斯基等)
• OpenCV+3计算机视觉++Python语言实现+第二版
• OpenCV3编程入门 毛星云编著
• 数字图像处理_第三版
• 人工智能:一种现代的方法
• 深度学习面试宝典
• 深度学习之PyTorch物体检测实战
• 吴恩达DeepLearning.ai中文版笔记
• 计算机视觉中的多视图几何
• PyTorch-官方推荐教程-英文版
• 《神经网络与深度学习》(邱锡鹏-20191121)
• …
  

第一阶段：零基础入门（3-6个月）

新手应首先通过少而精的学习，看到全景图，建立大局观。 通过完成小实验，建立信心，才能避免“从入门到放弃”的尴尬。因此，第一阶段只推荐4本最必要的书（而且这些书到了第二、三阶段也能继续用），入门以后，在后续学习中再“哪里不会补哪里”即可。

第二阶段：基础进阶（3-6个月）

熟读《机器学习算法的数学解析与Python实现》并动手实践后，你已经对机器学习有了基本的了解，不再是小白了。这时可以开始触类旁通，学习热门技术，加强实践水平。在深入学习的同时，也可以探索自己感兴趣的方向，为求职面试打好基础。

第三阶段：工作应用

这一阶段你已经不再需要引导，只需要一些推荐书目。如果你从入门时就确认了未来的工作方向，可以在第二阶段就提前阅读相关入门书籍（对应“商业落地五大方向”中的前两本），然后再“哪里不会补哪里”。

 有需要的小伙伴，可以点击下方链接免费领取或者V扫描下方二维码免费领取🆓
​