与师生谈人工智能5：强人工智能

学：学生，教：教师，李：李晓榕

学：什么是“强人工智能”？

李：简单地说，就是具有人类或更高水平的纯机器的真正智能，而“弱人工智能”能完成各种任务，但不具有人类水平的智能。我觉得，“强人工智能”的信念主要植根于近现代科技、特别是牛顿力学大获成功以来盛行的还原主义和机械主义：万事万物最终都可归结于基本粒子的物理行为，因而都能物理地、机械地、计算地实现；它认为电脑和人脑都是信息处理系统，而信息处理就是计算，所以智能无非计算，从而否认意识、智能等精神活动在最终本质上有别于计算（和物质）。这种观念接近于唯物论。唯心论者和“心物”二元论者一般认为智能属于“心”的范畴，机器不可能是智能的。唯物论者相反。早在17世纪，著名唯物论者、英国著名哲学家霍布斯就有名言：一切思维不过是计算（即加与减）。不过，唯物论者未必都认为机器可以是智能的。

  对于“机器能否是智能的”这个问题，我觉得现在是争不出结论的，双方难分胜负，也难以调和。这不是一个逻辑或者形而上学问题，无法靠思辨解决。“智能”、“思考”等模糊概念是人们从人的心智表现抽象而成的，它涵盖广泛，受诸多因素影响，无法客观精确定义。《多重智力》（Howard Gardner, Multiple Intelligences）和《智慧、智力、创造力》（R. J. Sternberg, Wisdom, Inteligence, and Creativity Synthesized）等书对此有详尽描述。争论双方对“智能”、“思考”、“机器”的理解可以很不同。

  相信“机器可以是智能的”的正方，可以剥去智能概念中与人密切相关的部分，强调其非精神的理性计算内核或者它足以完成任务的功能。比如认为，按奥康剃刀，在被证伪之前，应该认为智能都可计算，既然图灵机能做任何计算，因而机器可以是智能的；人类智能只是大脑神经系统的功能性质，完全可由机器复制；智能可能是这种系统整体涌现的功能性质，未必可还原为其任何部分。甚至认为以人工智能为代表的机器智能业已创生，已有大量成果，以至于其极端者可以像麦卡锡那样认为恒温器有信念，或者像毕达哥拉斯学派那样相信世界是由整数主宰的。还可强调说，思考不必限于人类思考模式，面对功能强大的机器问“机器会思考吗？”，就像问“车辆会行走吗？舰船会游泳吗？”一样不得要领；说“机器因无法理解或缺乏自我意识而不可能有真智能”，就像说“车辆因无腿脚而不可能真会行走，舰船因无手脚而不可能真会游泳”一样不得要领：就像行走（或游泳）的关键在于在地上（或水中）从一处到另一处一样，智能的关键在于能胜任各种任务。

  反方的极端者可认定“智能”与人和生命的关系如此密切，它可包括需求、欲望、经历、理解、情感、意志、交往等，甚至人性、道德、人的身躯及其运动能力等，以至于创造智能就差不多等于创造人群，既然机器不可能是人，所以机器也就不可能是智能的。或者不那么极端，只认为：既然连数理逻辑和许多数学问题都不是能行可解的，人类智能至少包括数学在内，那么涉及精神层面的智能和大自然一样必定至少含有不可计算的核心成分，所以机器不可能是智能的。无论机器有多么“智能”的行为，能完成怎样的任务，也无法真正像人一样理解、有类似于人类的明确清晰的自我意识。我们所知道的智能者，都能理解而有自我意识，凭什么相信存在无需理解和自我意识的智能者？又凭什么相信理解和自我意识会在机器的系统层面涌现？行走和游泳只有少数简单的实用功能，而智能不同，其实用功能包罗万象，难以用能否妥善完成几项任务来评判。简言之，机器能干活，但不会思考，谈不上有智慧。

  智能是否有赖于自我意识，意识究竟是什么，如何判定是否有意识，这些都是老大难问题。信息处理、智能行为等概念都可以像上面这样有不同的实质内涵。常人大都在正方和反方的两个极端之间，认为“智能”被一方矮化（形式化、计算化、机械化）了，被另一方“人化、神化”了。说智能、意识等如此神奇的精神现象是完全由物质产生的，这因无证据而难以令人信服，但说它另有神秘起源至少也同样难以置信。我想，不妨阙疑搁置——不必急于脱困，因为各方都缺乏真正的证据，所述都是基于信念的臆断。而且，对“机器”也可以有不同的理解，它可限于只用句法的形式计算程序操控的东西，也可以是含义更广泛的非生物，因而不限于可计算函数。

  其次，可以认为，“智能”涵盖从专能到无上智慧的全范围，是个“连续谱”。要达到哪种程度，才说一个东西有“智能”？类似地，一个人要愚蠢到什么程度，才“没有智能”？注意，按定义，就连白痴也有非零智商。这正像多少粒沙子堆在一起，才能说是一堆沙一样难以有共识。

  再者，美国实用主义大哲学家、心理学家詹姆斯等人认为，意识是机能（function），不是实体，也无法还原为实体。他说1：可见，意识不会以碎片的形式出现，……它流动着。把它比喻成一条“河”或者“流”是最自然的描述。当代著名神经学家埃德尔曼也指出，意识是一个过程，它是脑这种特殊的结构形态与环境相互作用时表现出来的动态性质。类似地，也许“智能”不是一种明确的“东西”，而是一种难以精确把握的“流变”存在，比如必须靠与上述维特根斯坦的“家族相似性”类似的某种联系来理解，或者智能依赖于智能体与外界的交互，离开了外界，就谈不上智能，正像你的脑（“活脑”）离开了你，就只是“死脑”而没有“活性”一样。由完全精确确定的算法构成的人工智能能否拥有这样一种“流变”存在，更可以见仁见智。

  即便不考虑上述几点，“机器能否是智能的”这个问题也难以论证，更难以达到令人信服的程度，就像“物质能否产生精神”这个问题难以论证一样。对精神与物质的联系理解得越透彻，唯物论者越会认为那证明了物质能产生精神，但唯心论者和二元论者仍不会动摇。唯物论与唯心论争论了几千年而无望看到结果，是无法靠论证解决的：信什么、倾向于哪一方，完全取决于个人的最终信念，不同的最终信念都足以形成各自的自足体系。

  即使达到人类智能水平的机器业已问世，反方的中坚分子也仍会认为这些机器并无真智能，只是模仿得惟妙惟肖而已，正如塞尔的“中文屋”论证一样。所以，人工智能的开山大师马文·明斯基抱怨说2，一旦机器能够完成某项任务，在质疑者眼中这项任务就不再体现智能，所以智能就像“未经探究的非洲区域”：一经发现，便即消失。这样游移不定，很不公平。业内称之为泰斯勒（Larry Tesler）定理或人工智能效应：人工智能成果问世后不被当成人工智能的成果，而被冠以非人工智能的名称。的确如此。

  不过，人们一再这样“出尔反尔”却不觉理亏，有深层原因：人们原以为这些任务依赖于智能，但研究成果表明，它们可以被各自的算法程序完成，无论多么复杂，也只是按事先确定的程式顺序规则地、按部就班地靠计算执行完成的，——这与人们心目中“智”的核心内涵（它似乎包括非机械化程式化的灵、巧、变）大相径庭。因此调整认识，“耍赖”而不再承认这些任务体现智能，反而说它“能则能矣，非智也”。人们一再这样“出尔反尔”，更说明人们难以接受按部就班的算法程序为“智能的”，即下意识地认为机器不会有智能。举例来说，原来认为速算能力强是高智力的体现，计算机问世后，认识改变了；过去认为高手下国际象棋是高智力活动，“深蓝”战胜此前从无败绩的卡斯帕罗夫后，认识改变了。这可以辩护如下：这样“出尔反尔”，改变的只是观念的外围地带，核心并没变。所以关键是，“智”的核心内容可否完全是按部就班的、程序性的、计算的，而这又回到上述争论了。何况，能做好某事（比如下棋和速算）与高智力有很强的正相关，即便对人类来说的确如此，这并不能证明，对非人类来说也必定如此，——这种外推根据不足。

学：如果精神不来自物质，那精神的起源是什么？

李：自然规律是否存在？它们是物质的吗？是由物质构成的、产生的吗？可见，即便对唯物论来说，客观存在也未必都是物质的。按量子力学按哥本哈根的标准解释，量子与随机变量并无差别：观察前它被随机变量的概率描述完全把握和刻画，而一经观察它就神奇地“崩坍”为一个物理性态明确具体的“粒子”，这完全对应于概率论说随机变量“实现”为一个具体数值。观察神奇地把“规律”（一种存在）瞬时转化成了“物质”（另一种存在）？观察前，量子像随机变量一样具有多种“可能”，这种存在是一种“数学性”或称“规律性”，但它是否有“物质性”？薛定谔之猫等悖论都根植于此。现代物理学越来越以数学体系（名曰“物理”规律）来指代、指认微观“物质”，与客观唯心论很近。这在海森伯等人的观念中十分明显。

  一般认为，宇宙说到底是由最基本的东西组成，权且称之为“始基”。请问：有几种始基？如果只有一种，那世界何以如此五彩缤纷？只靠个数不同的组合吗？如果有多种始基，这些始基何以不同？按还原论思想，它们应该有不同的内部组成或结构。但既然它们是最基本的，怎么还会有更基本的内部组成或结构呢？这不自相矛盾吗？可见不能再问始基的内部结构。如果有人坚持说只有一种始基，它是精神的，或者说有多种始基，其中包括精神的始基，它们没有内部结构，所以始终存在，没有起源。这是他的信念，谁又有什么令人信服的办法来证伪驳斥？

  关键是，从某些不同的最基本立足点，都足以构建各自的体系，都能自圆其说，只是自然程度、复杂程度、与心相合程度等有所不同而已。宗教就是鲜活的例子。只要都坚信各自最基本的立足点，一方根本无法靠论证来说服对方，让对方改宗。

______________________________

1. William James: Consciousness, then, does not appear to itself chopped up in bits. …it flows. A “river” or a “stream” are [sic] the metaphors by which it is most naturally described.

2. Marvin Minsky likens intelligence to the concept “unexplored regions of Africa”: it disappears as soon as we discover it. 

与师生谈人工智能6：能而欠智

已有 1417 次阅读 2021-8-8 10:54 |系统分类:教学心得

学：学生，教：教师，李：李晓榕

李：大家眼中的智能更近于“通能”而非“专能”；不仅“能”（胜任某事），更在于“智”——随机应变，行事巧妙，领悟微妙，善解深意，将心比心，擅长对付罕见奇特、复杂矛盾、突发多变、难以描述、答案不清、好坏莫辨等情况，兼具众多方面的才能，有自由意志和主观能动性，等等，比如在完全陌生或迷茫多变的场景中妥善行事，巧妙地完成难以定义或描述、没有对错、需要综合考虑多方因素的各种复杂任务，在信息奇缺或严重矛盾的情况下解决难题，与自然和社会环境密切交互，擅长获取、把握、创造各种抽象概念，善于做“元思考”（即反思思维本身），深刻理解事物的长期影响和广泛意义，充分考虑特殊场景中各方的主观感受、精神状态和道德诉求，很好地平衡各种彼此矛盾的需求，等等。可见，智能强调在纷繁复杂的广泛环境中兼顾多方考量、实现各种目标、含有诸多心智方面的“通能”和见机行事、因势利导、因时因地因事因人制宜等“灵活、灵动、灵巧”之“灵性”以及与环境密切交互的“活泛、活跃”之“活素”“活质”。

不智欠能，能而欠智，既能又智？

我认为，深度学习所代表的人工智能“能而欠智”，正像能自动寻找并击中目标的“寻的”导弹并没有真正的智能一样，也像经过题海战术训练之人并不明显更聪明一样，他只是更会求解相应题型之题而已。

学：说人工智能产品“能而不智”，是一种“傻能”，真是一针见血，不过这是不是太负面了？

教：看来李老师对人工智能的研究是全盘否定的。

李：你们误解了我的意思。让我首先肯定，对于一项任务，完成得好坏较易判定因而能用大数据训练时，深度学习确实是一大技术突破，它使人工智能的实际应用真正落地，这是人工智能研究的重大成就，有望成为划时代的里程碑。我说它“能而欠智”，你们以为这是贬词，其实是很高的赞誉：说它“能”。人工智能发展的三大阶段：①基于逻辑的推理规则，②基于知识的专家系统，③基于信息的数据培训，都各有所偏。当前阶段（即机器学习）的精髓是统计数据培训。前两阶段人工智能的发展一直明显低于期望，整体属于“不智欠能”，充其量只有小“专技”，只是“有技欠能不智”，只能勉强对付一些环境严格受控的玩具型、游戏式的小规模简单任务。得力于大数据和硬件发展的“神助”，深度学习所代表的第三代已经显示出能胜任许多实际而并不简单任务的“专能”。可见，从“不智欠能”到“能而欠智”是一大进步。下一步就是争取“既能又智”，从“专能”到既“通”且“灵”的“智”。

学：“专技”和“专能”有什么区别？

李：“能”指能力、能耐、本事、本领、才能等；“技”是技巧、技法、技术等，往往比“能”更专门狭窄、通用性更差、更易靠培训得到；“智”是智力、智能、智慧之“智”，是三者中最上乘、最难靠后天努力提高的。古人类学的“智人”（Homo sapien）也比“能人”（Homo habilis）进化程度更高。英文intelligence被译为“智能”（大陆）和“智慧”（台湾）。与此相应，intelligence和“智能”重心都在“智”而非“能”，更近于（心智上）上乘的智力智慧，而不仅是未必高级的能力本领。这也符合汉语构词法“先尊后卑，先主后次”的原则习惯（例如：尺寸、大小、纲目、国家、名字、上下、岁月、姓名、长幼、主从）。按此原则，我觉得现有和近期会有的artificial intelligence (AI) 充其量属于“人工能智”，是弱AI，而强AI才堪称“人工智能”。相对而言，“智”更是“聪明”，更重心智，其反面是愚、是蠢；“能”更近于“能干”，更重实践，其反面是无能、没用、笨拙。完全可能“能而不智”，而“智而不能”则难以成立。

  程式、方法、能力、智慧分别属于不同的层面。层次的高低，对应着隐显的深浅、学习的难易、适应的宽窄和灵活的强弱。一个好公式、程式、程序（比如二次方程求根公式）能解决多个不同的问题，但难以解决不同类型的问题。一种好方法（比如待定系数法）能根据不同问题的特性，得出不同的程式，解决大量不同类型的问题。程式按部就班（无需动脑变通）的本质很突出，而方法虽有统一的指导方针，但比程式更重变通，更灵活适应。方法大都仍然属于“技”而非“能”。程式有明确无误的精准表述；方法尽管只有启发式的描述，但可以被人学会而完全掌握；能力无法自外“学”会，但有望“习”得，逐渐提升，这主要靠反复实践、特别是有针对性的强化练习。能力有赖于善于学会各种方法，一个能人能胜任类型颇为不同的任务。相对而言，智慧最依赖于天赋，最难习得，强化练习更无济于事，它更依赖于对事物本性的洞察。智者必定善于审时度势，因势利导，充分运用众多方面的能力。可以说：智能的起点是能力，顶点是智慧，智能的全体是一个连续谱，它涵盖从专能到智慧的全范围。通常说的“智能”，其水平介于智慧和能力之间，高于专能，但未达到堪称智慧的高度。因此，说某人“愚、蠢、笨”，就是说他没有足够的智能，低于常人的水平。

不该冲动过热

  人工智能研究已年逾花甲，大量实际应用终于来临，当然令人振奋。不过，不该因而忘乎所以，对近期未来期待过高，过于乐观地以为“既能又智”的阶段即将来临。要记住前车之鉴：①紧接着过去两波人工智能热的是寒冬；②在1980年代人工智能热时，日本搞“第五代”超级智能计算机计划，聚焦于人工智能，要在1990年代实现大面积模仿人类言行，完全具有人类推理能力，甚至预测人类所想。它野心过度膨胀，失败后导致日本在信息产业和人工智能领域自此全面落后。要清醒地认识到：当前的人工智能大潮，并非基于智能机理认识上的重大突破，而只是找到了一种较能利用大数据和计算机特长的强大方法——大数据深度学习，它未必能撬开创造真“智”之门。人们心目中的真智大都离不开理解、意向性、意志、情感、自我意识以及精神等方面的经历体验，否则“能则能矣，非智也”。缺乏理解，还有智能？没有意向，能力再强，何智之有？感受情感情绪之“情”是体现和判定事物真正价值的基础，真智到底能否离开它们和价值判断？这些方面的研究迄今并无突破，也无近期内会有重大突破的先兆。而且，依赖大数据培训的深度学习网络的可释性和可视化都较差，对加深理解、提高认识、改善知识的结构和表达帮助有限。比如，著名人工智能学者Pedro Domingos在社交网上说：自2018年5月25日起，欧盟要求所有算法解释其输出原理，这意味着深度学习成为非法。

 人工智能不必模仿人脑机制或人类智能，但是没有对智能本质机理认识上的突破，期待近期内有质的飞跃是不是太盲目乐观？因而当前的人工智能大潮，还是会像前两个热潮一样难乎为继，特别是当人们对它的期望太高之后。过度期望、夸大承诺不乏先例。老子云：“飘风不终朝，骤雨不终日。”风暴越强，越难持续；期望越高，越难实现，失望越大。还是让我们了解一下人工智能的上一次热潮是如何崩溃而进入“寒冬”的吧¹：1980年代早期，“人工智能热”声称会思考的机器将在10年内出现，吸引了大公司对此注资数十亿美元，很多LISP公司涌上了人工智能大潮。结果诺言难以兑现时，人工智能大潮崩溃了，……我们称之为人工智能的冬天。卷积神经网络被誉为“机器之眼”，其开创者、深度学习的领军人物杨立坤（Yann LeCun，又译为“燕乐存”）警告说：“我最不喜欢听的说法就是‘它的表现简直和人脑一样’，因为尽管深度学习得到了生物学的启发，但它的工作原理和真正的生物大脑有天壤之别。说它像人脑，等于是凭空给它加了一道光环，这是很危险的。这样做会引发炒作，这些人嘴里说的东西并不是真的。人工智能的发展曾多次陷入寒冬，就是因为人们造不出他们吹嘘的东西来。”上一波人工智能热主要源于专家系统这一方法，其代表事件是IBM的“深蓝”战胜国际象棋大师。当前的人工智能大潮主要靠的是大数据深度学习这一方法，其代表事件是谷歌的“阿尔法狗”战胜国际围棋大师。都只是方法上的突破，凭什么一厢情愿地盲目相信会在近期内有质的飞跃？

  还是让我们了解一下上一波人工神经网络热是如何消退的吧：“基于神经网络和其他人工智能技术的创业公司开始寻求投资，其做法野心勃勃但不切实际。当AI研究不能实现这些不合理的期望时，投资者感到失望。同时，机器学习的其他领域取得了进步。比如，核方法和图模型都在很多重要任务上实现了很好的效果。这两个因素导致了神经网络热潮的第二次衰退。”（Goodfellow, Bengio, and Courville《深度学习》）科技史上这样的热潮来了去、去了来。人工智能已有三代，每一代都掀起一个热潮，整体上迄今已“三起两落”。一方面，作为每一种强大技术的研创者、推动者，或者出于理想乐观的美好愿望，或者出于吸引眼球、便于融资或谋取利益等现实考虑，差不多没有理由不美化自己的宠儿、描绘一厢情愿的愿景。而且，媒体和网络历来追求轰动效应，难免哗众取宠。所以，面对大潮，都应慎重考虑历史上诸如此类一而再、再而三地产生“泡沫”的因素和作用。

  话虽如此，展望未来千百年，真正堪与人类智能比肩、最终超越人类智能的超级智能是可以期待的。不过，我认为其载体应该是“生物机器”，即（人工改造后的）生物与完全人造物（机器、芯片、纳米等技术以及未来科技）的有机结合。这才是创造超级智能之路，应该充分利用而不能完全撇开几十亿年生命进化的成果。因此，人工智能研究的长远价值巨大，值得长期投入。不过我要强调，必须先期或同步提升相应的道德修为，使之既智慧卓绝又道德高尚，所以要谨慎行事，小步前行，否则人工智能将是人类的掘墓人。

学：这么说，李老师是相信强人工智能的。

李：不对，我说的是生物与机器的结合，并非纯计算机或机器，所以不是强人工智能。

______________________________

1. Duane Rettig, AI Winter: The Lisp companies rode the great AI wave in the early 80's, when large corporations poured billions of dollars into the AI hype that promised thinking machines in 10 years. When the promises turned out to be harder than originally thought, the AI wave crashed, ... We refer to it as the AI Winter. (引自http://c2.com/cgi/wiki?AiWinter）

本文来自李晓榕科学网博客。
链接地址：http://blog.sciencenet.cn/blog-687793-1298613.html