【机器学习文献】:南大周志华谈机器学习

机器学习概念:

“机器学习”是人工智能的核心研究领域之一， 其最初的研究动机是为了让计算机系统具有人
的学习能力以便实现人工智能，因为众所周知，没有学习能力的系统很难被认为是具有智能的。目
前被广泛采用的机器学习的定义是“利用经验来改善计算机系统自身的性能” [1]。事实上，由于“经
验”在计算机系统中主要是以数据的形式存在的，因此机器学习需要设法对数据进行分析，这就使
得它逐渐成为智能数据分析技术的创新源之一，并且为此而受到越来越多的关注

数据挖掘的概念就是：

利用机器学习技术进行数据分析，利用数据库的数据库管理技术 进行相关数据的挖掘

数据挖掘的概念：

例如“识别出巨量数据中有效的、新颖的、潜在有用的、最终可理解的模式的非平凡过程” [2]。其实顾名思义，数据挖掘就是试图从海量数据中找出有用的知识。

机器学习的发展：

机器学习和数据挖掘在过去 10 年经历了飞速发展，目前已经成为子领域众多、内涵非常丰富的
学科领域。“更多、更好地解决实际问题”成为机器学习和数据挖掘发展的驱动力。事实上，过去若
干年中出现的很多新的研究方向，例如半监督学习、代价敏感学习、流数据挖掘、社会网络分析等，
都起源于实际应用中抽象出来的问题，而机器学习和数据挖掘领域的研究进展，也很快就在众多应
用领域中发挥作用。值得指出的是，在计算机科学的很多领域中，成功的标志往往是产生了某种看
得见、摸得着的系统，而机器学习和数据挖掘则恰恰相反，它们正在逐渐成为基础性、透明化、无
处不在的支持技术、服务技术，在它们真正成功的时候，可能人们已经感受不到它们的存在，人们
感受到的只是更健壮的防火墙、更灵活的机器人、更安全的自动汽车、更好用的搜索引擎……
由于机器学习和数据挖掘技术的重要性，各国都对这方面的研究非常关注。例如，美国计算机
科学研究的重镇——卡内基梅隆大学 2006 年宣布成立“机器学习系”。而美国DARPA从 2003 年开
始启动 5 年期的PAL（ Perceptive Assistant that Learns）计划[14]，首期 1-1.5 年投资即达 2 千 9 百万美
元，总投资超过 1 亿美元。从名字就可以看出，这是一个以机器学习为核心的计划。具体来说，该
计划包含两个子计划，一个称为RADAR，由卡内基梅隆大学单独承担，其目标为研制出一种软件，
它“通过与其人类主人的交互，并且通过接收明晰的建议和指令来学习”、“将帮助繁忙的管理人员
处理耗时的任务”。另一个子计划称为CALO，牵头单位为斯坦福国际研究院，参加单位包括麻省理
工学院、斯坦福大学、卡内基梅隆大学、加州大学伯克利分校、华盛顿大学、密歇根大学、德克萨
斯大学奥斯汀分校、波音公司等 20 家单位，首期投资即达 2 千 2 百万美元。显然， CALO是整个PAL
计划的核心，因为其参加单位不仅包含了美国在计算机
科学和人工智能方面具有强大力量的主要高校以及波音
公司这样的企业界巨头，其经费还占据了PAL计划整个
首期投资的 76%。 DARPA没有明确公布CALO的目标，，
但从其描述[15]可见端倪：“ CALO软件将通过与为其提
供指令的用户一起工作来进行学习 …… 它将能够处理
常规任务，还能够在突发事件发生时提供协助”，考虑到
911 之后美国对突发事件处理能力的重视，以及波音公
司对该计划的参与，该计划的（部分）成果很可能会用
于反恐任务。 DARPA还说[15]，“ CALO的名字源于拉丁文calonis，含义是‘战士的助手’”，而且
8
DARPA 曾在网站上放置了这样一幅军官与虚拟参谋人员讨论战局的画面，可以预料，该计划的（部
分）成果会直接用于军方。从上述情况来看，美国已经把对机器学习的研究上升到国家安全的角度
来考虑。