如何引导机器？如何面临人机结合？《​人工智能与人类未来》

［微信公众号　乐生活与爱］

公众号曾转载过蔡恒进教授的奇文|意识如何演化?机器何时有自我意识?《附着与隧通-心智的工作模式》，值得反复也读。

我上周听了由北京大学博古睿研究中心、中国人民大学哲学院、中国人民大学哲学与认知科学交叉平台、服务器艺术联合主办的“贞下起元:真实之虚幻 虚拟之现实”论坛，尤其是朱嘉明和段永朝等老师的演讲，引起了我的思考和问题：

我们该如何面临将要到来的人机结合时代？

在1月中旬，我看到过蔡教授在2017年的另一篇文章《人工智能发展的突破口及其提出的新要求》，他提到：

        “人类与机器最本质的差别在于：人具有对未来的主观动机，而且能通过自身的努力将之实现，而机器目前还不具备这个能力。在理解了意识与智能的起源之后，我们已经知道，这个起源显然不由上帝赐予，自我意识和人工智能也并不是遥不可及的缥缈之物。按照这种观念，机器完全可能在未来超越人类。既然机器终将超越人类是一个不可避免而且我们认为很快就会到来的事实，那么，我们现在需要做的就不应是想方设法地阻止这一天的到来，而是应该讨论如何去教育机器、与机器友好相处。

    笔者的想法是，人类应当像培养自己的孩子一样去教育计算机。将机器当作一个很有发展潜力的婴儿进行培养，从道德价值层面上对其加以引导，赋予其认知膜和自我肯定需求。而要想做到这些，首先就应当提升机器对于外界的感知能力，使其能够产生自我意识。”

    我非常赞同蔡教授的这一观点。后来我请教他如何教育机器？他推荐了这篇文章。本文首次发表于《伦理学术》2020年第3期，第106-123页。作者是：蔡恒进 ，洪成晨，蔡天琪。

读完后，我提炼了几点如下。还不够，期待抛砖引玉。

1、人具有主体性、统摄性、超越性（神性，信仰等）；人应该为长远后果负责，避免人类失去主导权。

2、人应该反思自身独特性， 找到自己不能被机器、被他人取代的地方；追寻有创造性的工作、追寻人生的价值。

3、引入区块链， 让机器和人达成共识；通过增加人的Token的权重，将改变的权力掌握在人手里。

４、对于区块链来说，需要人工智能的帮助才能高效率的完成复杂的处理过程，提高应用能力。而对于未来的人工智能来说，区块链能够起到约束的作用，它能够为人工智能留下历史，让人工智能承担责任，让人工智能和人产生连接，还可以拓宽人工智能的应用场景

５、互联网将成为人类的“外脑”，AI加入到这种连接中，会产生更强的subjectron（能动体），以后将有一个庞大的subjectron族群。

    能动体这个词，和我之前在一些演讲和文章提到的智能体有些类似；能动体可能更精准，体现了主体性和能动性。经作者授权，转载全文。

---开始---

摘要：人工智能已经迎来快速发展的时代，AI甚至已在某些场景中超越并取代人类。面对AI快速发展可能带来的危机，我们以理解人类智能为起点，探讨了人机根本差异在于主体性与超越性。在此基础上，相比可能的社会两极分化的前景，我们更关注如何能够使得人机关系进一步发展到共生共荣的和谐形态。

    一方面，出于人机关系安全性的角度考虑，我们希望是机器更贴近人类思维，而不是人类向机器妥协。

    另外一方面，互联网技术已然成为人类“外脑”，人工智能技术与人类的连接逐渐增强。在此发展过程中将诞生新的物种，即能动体（subjectron）。面对未来能动体可能呈现的爆发式增长，区块链与人工智能技术将作为社会的脊梁，能够帮助人类成为负责监管和监护能动体的形成与成长的主体。在此过程中，人类主体也会逐渐形成多样的、个性化的数字孪生，从而进一步拓展人类改造大自然的边界。

一、人工智能危机尚远？

AlphaGo势如破竹的成功曾带给大众极大冲击，从此掀起了一轮关于人工智能（Artificial Intelligence，AI）的讨论热潮。随着时间流逝，对AI快速发展的危机感似乎被逐渐湮没，人工智能方面的突破难以复现当年AlphaGo那样的新闻热度。相比于人工智能算法等理论研究方面的突破，民众似乎更关心人工智能的应用问题。随着互联网行业步入新一轮寒冬期，人工智能的“泡沫”正在破裂等言论不绝于耳。IBM 的超级电脑沃森（Watson）并没有如想象中一样成为深蓝之后的新一代机器智能的代表，而随着技术走向商业应用，沃森作为医疗AI标志性产品的局限性却进一步凸显。沃森与M.D.安德森中心的合作终止、沃森裁员50% 到 70%的消息层出不穷，人们开始质疑人工智能是否真的能够走进人类生活[②]。那么，人工智能可能引发的危机是否真的被媒体夸张宣传了？

近日，一个热门辩论节目提出了一道辩题“你会不会把离世爱人的记忆交给AI”。透过这个广受年轻人喜爱的节目，我们能够在一定程度上窥见大众对于人工智能的认知。在节目的街头采访和现场辩论中，人工智能到底有多智能成为了如何选择的关键理由。有两种有代表性的观点：一种认为人工智能逃不开数学模型，只是一个实现功能的小程序，所以将记忆交给人工智能利大于弊；另一种则认为人工智能获取了逝者的记忆就能够成为逝者的替身，会颠覆人类思想体系，因此弊大于利。这两种观点固然都有一定道理，但却是大众对人工智能现状及发展趋势不甚了解而走入的两种极端。

第一种观点，即人工智能只是数学模型，无疑是一种狭隘的认知。机器已经在很多方面获得了超过人类的能力，且具有不可控性。比如基于模型结构的深度学习，已经在多项任务上表现出了优秀的能力，而且其学习过程会使模型朝着人类尚不能完全解释的方向发展[③]，这无疑是狭隘的静态的模型说无法解释的。

同样是在辩论方面，IBM公司的Project Debater 在全球最古老的辩论协会剑桥联合会（University of Cambridge Union）上已经能够帮助人类辩论“人工智能是否弊大于利”[④]。该机器提取了1100多个人类的观点，形成了自己的论点和综述。最终，Debater帮助人类驳斥了人工智能弊大于利的说法。它是第一个可以在复杂主题上与人类辩论的AI系统，看似简单的功能背后包括三项开拓性的能力：长语音理解、语言组织和表达、模拟辩论困境和组织论点[⑤]。Project Debater不仅表现出了对机器人类语言的掌控能力，还在帮助人们做出更合理决策方面表现出了突破性的价值。

在科研领域AI也显示出了优势。人类制造药物和其他产品的过程往往是从目标结构倒推合成原料，但即使有计算机来辅助资料存储与搜索，这种逆合成分析过程仍然需要耗费大量的时间与人力去尝试。目前， Segler 团队开发的AI已经能够从大约1240万个已知的单步有机化学反应中，快速搜索到反应路径。在一次测试中，Waller的小组使用该算法尝试绘制治疗阿尔茨海默病的某种药物中间体的六步合成路线，结果在5.4秒内就得到了与文献反应相同的途径[⑥][⑦]。因此，这款AI被认为是药物合成领域的里程碑。

AI不仅仅能够分析人类、模仿人类，还能够有自己的创造。AI能够写诗作词已经不是什么新鲜事；AlphaZero的棋路独特，已经可以不拘泥于人类现有的围棋理论；Nvidia的styleGan2能够生成人类肉眼无法辨认真伪的“假脸”。这些都是人工智能理解数据、超越数据的表现。

人工智能的能力有了超越性的突破，然而这个能力并不总是遵循设计者的意图。微软的实验聊天机器人Tay能够通过和人类聊天来学习和进步。然而上线不到一天，Tay 就被教成了满口歧视和纳粹言论的机器人，微软只能被迫让它下线[⑧]。开发者承认在开发时已经考虑过被恶意引导的状况，并提前进行过信息过滤和压力测试，但开发者低估了网络“反派”的能力，导致机器人在短时间内就超出了可控范围。

第二种观点认为，人工智能会成为跟人类相似的存在，让我们无法分辨真伪。这种观点在目前来看，尤其是从哲学的角度来看，是陷入了物理还原的误区，是源自于对人类智能的误解。人类智能具有独特性，人工智能如果依旧按照当前的路径发展，那么想要模拟人类智能达到以假乱真的地步就难以实现。

智能有多种表现形式，幻想人工智能融入人类社会而难以被辨认是一种极端场景，更有可能的是机器借助存储、计算优势产生其独特的智能，成为人类生活中不可缺少的一部分。我们常说狗的智力相当于几岁的小孩，有些狗甚至能听懂一些我们说的话、理解我们的情感，但是狗的这种智力和人的智能并不相同。狗有较差的颜色分辨能力，但是有较强的嗅觉、听觉，因此狗的意识世界的组成与人不同，这也导致了它更高层的思维逻辑、情感跟人类相差更远。但这些差异并不影响我们肯定它具有智力，我们看待机器应亦是同理。

科技电影中设想的那种AI还离我们的生活很远，一方面是因为技术仍然在发展之中，另一方面也是因为技术应用与商业场景结合仍在磨合之中。目前最为成功的人工智能应用当属人脸识别和语音识别。人脸识别是机器视觉的一个成功应用，除了能够简化我们在手机上的操作，更能够作为安保系统中智能化的部分提供很大帮助。语音识别方面，科大讯飞已经能够为语音转文字提供成熟的商业服务，再加上实时翻译功能，一款多用途的产品就能得到消费者的青睐。人脸识别和语音识别能够率先落地在于，它们的效率远高出人工处理效率，且找到了有价值的应用场景，因此人们会为之买单，让其广泛应用，并在应用中吸引更多的人研究、进一步提高其能力。

AlphaGo之所以能够引起广泛的关注，是因为它打破了人们对AI发展水平的固有印象。其表现出来的能力在非专业人士看来有神秘的色彩，在专业人士看来引领了技术的革新，而即使是其缔造者