机器学习概述

一、人工智能

1.人工智能的定义

广泛接受的定义：“人工智能是关于知识的学科-怎样表示知识以及怎样获得知识并使用知识的科学”（尼克逊教授）or“人工智能就是研究如何使计算机去做过去只有人才能做的智能工作”（麻省理工温斯顿教授）。总而言之：人工智能是研究人工智能活动的规律，构造具有一定智能的人工系统，研究如何让计算机去完成以往需要人的智力才能胜任的工作。即研究如何应用计算机的软硬件来模拟人类的某些智能行为的基本理论、方法与技术。

2.人工智能的发展历史

人工智能的发展阶段总体可分为3个时期：第一阶段人工智能起步期、第二阶段机器学习时期、第三阶段深度学习时期。

2.1人工智能起步期

1956年马文·明斯基组织达特茅斯会议标志AI诞生。

1957年心理学家罗森布拉特发明Perceptron感知机，神经网络模型。

1970年马文·明斯基指出人工之鞥无法解决异或（XOR）问题，受限于计算能力，人工智能发展陷入低潮。

2.2机器学习时期

1982年霍普菲尔德神经网络提出，递归(复发型)网络。

1986年Rumelhar、Hinton等人提出了反向传播BP算法，解决了两层神经网络所需要的复杂计算量问题。（牛逼！大佬！）

90年代DARPA人工智能计算机研究失败，SVM（support vector machines）算法诞生，迅速打败了神经网络，成为算法主流。

2.3深度学习时期

2006年Hinton发表论文，首次提出了深度学习神经网络，人工智能再次兴起。

2013年深度学习在语音和视觉识别上取得重大进展。

3.人工智能与机器学习的关系

                                                                     图1.深度学习、机器学习、人工智能之间的关系图

深度学习机器学习人工智能

                                                                       图2.深度学习、机器学习、人工智能之间的关系图

第3次工业革命又称为信息革命，包括信息系统、专家系统等。第4次工业革命是我们目前正在经历的，由信息化向智能化转变的阶段。这其中的技术主要包括互联网、云计算、大数据、GPU、芯片等。

4.人类学习与机器学习、深度学习的相似与差别之处

                                                                                    图3.人类学习&机器学习

可以发现人类学习的方式顺序依次为经历、归纳、经验总结。当再有新的未知事件时，人类会根据已有的经验去判断与预测。机器学习的方式顺序依次为从训练样本中通过算法学习到模型。当再有新的未知数据时，便会根据已习得的模型进行预测。

                                                                                       图4.机器学习&深度学习

由图4可以看出，传统机器学习算法相较与深度学习，少了多层复杂特征提取过程。深度学习的一大优势就在于能够从输入数据中学习到更加复杂的特征。

                                                                                           图5.机器学习分类图

机器学习大致可以分为监督学习、半监督学习、无监督学习三大类。监督学习是指在输入数据中打好标签，即算法会根据标签值而不断的校正。无监督学习是指输入到模型中的数据没有任何标签。半监督学习是指输入数据中部分数据带有标签值。无监督学习的典型算法类型有聚类。有监督学习的典型算法有分类和回归。