人工智能、机器学习、神经网络和深度学习的定义及其之间的关系 学习笔记

人工智能

人工智能（artificial intelligence,AI）：让机器居于人类的智能(“计算机控制”+“智能行为”)。是研究、开发用于模拟、延伸和扩展人的智能的理论、方法及应用系统的一门新的技术科学。

在1956年的达特茅斯（Dartmouth）会议上“人工智能“被提出并作为本研究领域名称，是人工智能这个学科的诞生有着明确的标志性事件。
人工智能就是要让机器的行为看起来像是人所表现出的智能行为一样----John McCarthy（1927-2011）

人工智能研究领域

让机器具有人类的智能
机器感知（计算机视觉、语音信息处理）
学习（模式识别、机器学习、强化学习）
语言（自然语言处理）
记忆（知识表示）
决策（规划、数据挖掘）

如何开发一个人工智能系统

机器学习

机器学习：专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。是人工智能的核心研究领域之一。（相当于构建一个映射函数）

机器学习模式识别流程

浅层学习

浅层学习：不涉及特征学习，其特征主要靠人工经验或特征转换方式来抽取。

深度学习

深度学习：人工智能的一个子领域；一类机器学习问题，主要解决贡献度分配问题；源于人工神经网络的研究，多层感知器就是一种深度学习结构。深度学习是机器学习研究中的一个新的领域，它模仿人脑的机制来解释数据，例如图像，声音和文本。

神经网络

神经网络：一种以（人工）神经元为基础单元的模型

赫布法则 Hebb’s Rule
“当神经元 A的一个轴突和神经元B很近，足以对它产生影响，并且持续地、重复地参与了对神经元B的兴奋，那么在这两个神经元或其中之一会发生某种生长过程或新陈代谢变化，以致于神经元A作为能使神经元B兴奋的细胞之一，它的效能加强了。”

人工神经网络

人工神经网络只要由大量的神经元以及他们之间的有向连接构成。因此考虑三个方面：
神经元的激活规则
主要是指神经元输入到输出之间的映射关系，一般为非线性函数。
网络的拓扑结构
不同神经元之间的连接关系。
学习算法
通过训练数据来学习神经网络的参数。

人工神经网络由神经元模型构成，这种由许多神经元组成的信息处理网络具有并行分布结构。虽然这里将 神经网络结构大体上分为三种类型，但是大多数网络都是复合型结构，即一个神经网络中包括多种网络结构。

总结