参考链接:https://www.jianshu.com/p/6c08f4ceab4c
1 基本概念
1.1 人工智能
符号AI使用与解决明确定义的逻辑问题,如下棋,但要找出解决更复杂,模糊问题的方法,如图像分类、语音识别和语言翻译等。一种取代符号人工智能的新方法出现:深度学习。
1.2 过程
机器学习,人们输入数据以及从数据中得到的答案,然后得出规则,再将规则应用于新数据、用于生成原始答案。
机器学习是经过训练而不是明确编程的,通过提供了许多与任务相关的示例,并在示例中找到统计结构,最终容许系统提出自动化任务的规则。
与统计学不同的是,机器学习倾向于处理大型复杂的数据集(例如数百万张图像的数据集,每个数据集由数万个像素组成),对于这些数据集,传统的统计分析(如贝叶斯分析)是不切实际的。
1.3 步骤
输入数据点 —— 例如,如果任务是语音识别,这些数据点可能是人们说话的声音文件。如果任务是图像标记,它们可以是图片。
预期输出语音识别任务的样例 —— 这些可能是人为的声音文件的记录。在图像任务中,预期的输出可以是“狗”、“猫”等标记。
一种衡量算法是否处理得当的方法 —— 为了确定算法的当前输出与期望输出之间的距离,这是必要的。测量作为反馈信号来调整算法的工作方式。这个调整步骤就是我们所说的学习。
1.4 深浅学习区别
现代深度学习通常涉及数十甚至数百层连续的表示层——它们都是通过接触训练数据而自动学习的。与此同时,机器学习的其他方法倾向于只学习数据的一到两层表示;因此,他们有时被称为浅层学习。
1.5 深度学习-数学框架
深度学习是一个从数据中学习表征的数学框架。络将数字图像转换为与原始图像越来越不同的表示形式,并提供关于最终结果的越来越多的信息。您可以将深度网络看作是一个多级信息蒸馏操作,其中信息经过连续的过滤器,并逐渐被净化(也就是说,对于某些任务非常有用)。
1.6 如何工作
层(layer)对其输入数据的操作存储在层的权重值中,其本质是一堆数字,可以由层实现的转化是由其权重参数化的。
权重 层的参数,网络中所有层的权重找到了一组值,以便网络能够正确的将样例输入映射到相关目标。
目标函数-用于控制神经网络的输出,需要能够测量的输出与你的预期的距离,又称之为网络损失函数的工作。损失函数接受网络预测和真实目标,并计算距离分数,以了解网络在特定示例中的表现。
深度学习的基本技巧是使用这个分数作为反馈信号,稍微调整权重的值,以降低当前示例的损失分数。这种调整是优化器的工作,能够实现所谓的反向传播算法—深度学习的中心算法。
最初,网络的权值被分配为随机值,因此,网络仅仅实现一系列的随机转换,这是它的
产出远低于理想水平,损失分数也很高,但对于网络过程中的每一个样例,权值都会在正确的方向上,做出部分调整,损失分数会降低,这是循环练习,直到重复足够多次(通常是在数千个样例上重复数十次)产生的权重值可以最小化损失函数。
损失最小的网格输出尽可能接近目标的网络,训练过的网络。
1.7 改革之处
深度学习容许一个模型同时学习所有层次的表示,而不是连续的。通过联合特征学习,当模型调整其内部特征时,所有依赖他的其他特征都会自动适应变化,而不需要人工干预。
所有的一切都受到反馈信号的监督,模型中的每一个变化都服务于最终目标。
深度学习的基本特征数据–增量,一层一层地发展处越来越复杂的表现形式,这些中间增量表示是共同学习的,每一层都被更新,以满足上面一层和下面一层的表征需求。
1.8 视觉深度学习的基本关键思想–卷积神经网络和反向传播。
08-14
08-14