早在计算机出现之前,就已经有 AI 的讨论了。历史上 AI 有两大派系:符号主义和连接主义。符号主义主张模仿人类逻辑,用逻辑建立 AI 系统;而连接主义主张模仿人类神经网络,用数据和训练让计算机学习知识。这两个派系争斗了几十年,中间历经了两次 AI 危机,最后谁胜出?他们又是如何度过 AI 危机?请待下文分晓!有人的地方,就有斗争。华山派有「剑宗」和「气宗」,相互斗了几十年。人工智能也有「山头」, AI 两大派系的斗争早在第一台计算机问世前就已经开始了。
AI 两大派系:符号主义与连接主义
三名法国人把两派的势力对决画成图,名字叫「神经元的复仇」:
这两大派系就是:符号主义(Symbolicism):又称逻辑主义、计算机学派,主张用公式和逻辑体系搭建一套人工智能系统。连接主义(Connectionism):又叫仿生学派,主张模仿人类的神经元,用神经网络的连接机制实现人工智能。在符号主义者的眼里,人工智能应该模仿人类的逻辑方式获取知识,而连接主义者奉行大数据和训练学习知识。
派系斗争与两次 AI 危机
早在达特茅斯会议之前,图灵就提出过「图灵机」这样的人工智能概念。斗争之初的几十年间,连接主义派的论文引用率一直领先对手。别看奉行「连接主义」的机器学习如何风光,早年间他们长期受到另一个派别:「符号主义」者的鄙视。60 年代初,美国国防高级研究计划署(DARPA)对 AI 领域进行了数百万美元的投资,人工智能也迎来的第一黄金发展期。
第一次 AI 危机:运算能力缺乏
情况在 1969 年起了变化,符号主义代表人物马文.明斯基(Marvin Minsky)写了一本名为《感知器》(Perceptron)的书,结果直接把神经网络给写死了。感知器是那个年代的神经网络。明斯基在书中向连接主义发难:「你们的感知器连最基本的异或(XOR)都做不到,做出来还有什么用?」也是在那一年,明斯基获得了图灵奖。符号主义派胜利后不久, AI 就迎来了第一次寒冬。或者说,运算能力的匮乏导致了第一次 AI 寒冬,帮助符号主义实现逆袭。
第二次 AI 危机:符号主义的失败
到了 70 年代中期,专家系统(expert system)的出现带来了 AI 的黄金时代。它其实就是一套计算机软件,能够仿真人类专家回答问题,不过它的智慧仅局限在一个很窄的领域,说它是活字典可能更准确。同时,连接主义也在悄悄发展,约翰.霍普菲尔德(John Hopfield)在 1982 年发现了具有学习能力的神经网络算法。就在符号主义志得意满的时候, Lisp machine 的失败让两派力量再次发生了逆转。 Lisp 是当时研究 AI 领域常用的编程语言, Lisp machine 是专门被优化用来运行 Lisp 程序的计算机。80 年代,研究 AI 的学校都买入了这种机器,最后却发现用它们做不出来 AI 。之后就出现了 IBM PC 和苹果机,比 Lisp machine 便宜,运算力更强。Lisp machine 顺理成章狗带(Go die), AI 进入第二次寒冬。
连接主义的逆袭:提出新算法,深度学习起死回生
连接主义者在这时候也找到了更简单的统计方法:支持向量机(SVM),它消耗的计算资源更少。之后,长短期记忆(LSTM)算法也被提出。
后来,深度学习终于又重新霸占了学术和工业界。时间回到当下,从 2010 年开始,机器学习成为 AI 行业主导。人工智能在机器学习的帮助下,取得了巨大的成就,标志着 AI 的彻底复苏。如今最热的 AI 概念均出自连接主义派。近年来,计算机硬件的发展更是让连接主义如鱼得水,连手机的运算能力都能完成识图的任务,深度学习能实现也就不奇怪了。
双方代表人物
说到两派的斗争,就不得不提一下双方的将领了:符号主义派:马文.明斯基(Marvin Minsky),麻省理工人工智能实验室创始人之一,他奠定了人工神经网络的研究基础,早在 1951 年,他设计构建了第一个能自我学习的人工神经网络机器。连接主义派:约翰.霍普菲尔德(John Hopfield),美国科学家,在物理学和计算机学方面均有很高的成就, 1982 年发明了联想神经网络,也就是知名的霍普菲尔德网络。
两派之间也相互引用文章:除了这两位名人外,符号主义这边还有 Herbert A. Simon 、 Allen Newell 。如今连接主义当道,这一派的大老更为我们所熟知:例如 Yann LeCun 、李飞飞、 Geoffrey Hinton 等人。