机器学习笔记（一）——机器学习概述

     一、什么是机器学习

       百度百科上是这么解释的，专门研究计算机怎样模拟或实现人类的学习行为，以获取新的只是或技能，重新组织已有的只是结构使之不断改善自身的性能。看了那么多机器学习的博客文章。个人认为机器学习就是，将数据放入一个模型中并通过这个模型分析并归纳数据，最终预测得出一个结果，并在这些过程中不断改善预测的性能。

     二、机器学习的任务

       机器学习分为：监督学习、无监督学习、强化学习。

       这其中又有很多经典算法，详见下图，

      三、机器学习发展史

      1959年，IBM的写出了可以学习的西洋棋程序，并在 IBM Journal of Research and Development期刊上发表了一篇名为《Some Studies in Machine Learning Using the Game of Checkers》的论文中，定义并解释了一个新词——机器学习（Machine Learning，ML）。将机器学习非正式定义为”在不直接针对问题进行编程的情况下，赋予计算机学习能力的一个研究领域”。

       从20世纪50年代到70年代初，人工智能研究处于“推理期”，人们认为只要给机器赋予逻辑推理能力，及其就能具有智能。之一阶段的代表性工作主要有A.Newell和H.Simon的“逻辑理论家”程序以及此后的“通用问题求解”程序等，这些工作在当时取得了令人振奋的成果。

       20世纪70年代中期开始，人工智能进入了“知识期”。在这一时期，大量专家系统问世，在很多领域做出了巨大贡献。但是，专家系统面临“只是工程瓶颈”，简单地说，就是由人来把只是总结出来再教给计算机是相当困难的。于是，一些学者想到，如果机器自己能够学习知识该多好。

       在20世纪6、70年代，多种学习技术得到了初步发展，例如以决策理论为基础的统计学习以及强化学习技术等。在这一时期，基于逻辑或图结构表示的符号学习技术也开始出现。

        20世纪80年代是机器学习成为一个独立的科学领域并开始快速发展、各种机器学习技术百花齐放的时期。

       20世纪90年代初到21世纪初是现代机器学习成型的时期。机器学习领域一个最重要的突破，支持向量机（support vector machines, SVM），由瓦普尼克和科尔特斯在大量理论和实证的条件下提出。从此将机器学习社区分为神经网络社区和支持向量机社区。

        21世纪至今是机器学习蓬勃发展的时期。

四、思维导图