金观涛｜为什么人工智能不可能有意识？-CSDN博客

转自公众号：勿食我黍

2025年05月14日 15:22

作者｜金观涛

中国美术学院南山讲座教授，香港中文大学中国文化研究所高级名誉研究员

我们来证明为什么神经系统的实验研究不能揭示意识，以及为什么人工智能不可能有意识。原因在于，真实性具有众多领域，而科学真实只是众多真实性之中的一个，用科学研究证明意识为真是搞错了领域。为什么？因为在三元关系R（X，M，Y）中，只要M是主体可任意重复的，由M规定的Y就是真的。而X有“个别”和“普遍”两个不同选项， M有“包含主体”和“不包含主体”两个不同选项，对象Y也有“经验”和“符号”两个不同选项。所有选项的两两组合，有8 种可能性。在真实性关系的 8 种类型中，如果只考虑经验真实性，一共有 4 种可能性。分析这 4 种可能性，立即推出科学只是经验真实三个领域中的一个。

点击封面查看👇

《我的哲学探索》

金观涛著

中信出版集团

2025年4月

科学真实的前提是主体X为“普遍”，M为“不包含主体”。什么是主体 X为“普遍”？科学真实的基础是受控实验或受控观察的普遍可重复。普遍可重复是指受控实验或受控观察结果对某一个主体Xn为真时，对另一个主体Xn+1 亦为真。也就是说，在可控制变量和可观察变量不变的前提下，将某一个主体Xn换为另一个主体Xn+1，只要受控实验和受控观察结果仍然相同，再加上数学归纳法成立，得到的相应经验对所有主体X为真。这时，我们称之为主体X是普遍的。而M是主体做出的控制（仪器装置及其规定的实验条件），因所有科学实验中实验条件都不包含主体，科学真实只是 R（X，M，Y）中X为普遍、M 不包含主体，即主体可悬置所规定的那一特定类型。

当X为普遍，但M包含主体，即主体在普遍可重复之受控操作中不能悬置时，其可重复性结构和受控实验（受控观察）不同，它亦规定了对象对所有主体的真实性。因为M是一批变量，其中某些包含主体，某些不包含主体。和它相比，规定科学真实的普遍可重复的受控实验和受控观察，只是M中将包含主体变量排除之结果。在《真实与虚拟》一书中，我将包含主体的 M 之实验称为拟受控实验（观察）。和拟受控实验（观察）的普遍可重复对应的真实性领域属于人文社会世界。同理可知，当“X为普遍”不成立，只要由主体控制的Y可任意重复，Y仍是真的。这样，也就得到真实性的第三种类型，这就是个体真实。在《真实与虚拟》一书中，我详细论证了真实性存在着三个领域。它们分别是科学真实、人文社会真实和个体真实。

一旦认识到现代科学研究只是三种真实性领域中某一种真实性探索，立即可以理解为什么在现代科学的路灯下找不到打开意识之门的钥匙。因为任何用普遍可重复的受控实验和受控观察确定为真的对象中都不包含主体X，而意识和主体直接相关。也就是说，用科学的真实性不能证明意识的真实性。意识研究不属于纯粹的科学真实领域。

我们可以用神经系统记忆研究为例说明这一点。大脑神经系统的实验研究要求其普遍可重复，然而只要实验的控制条件中不包含主体，用科学研究发现的神经系统的记忆只能是输入和输出关系的变化，它不可能涉及主体，当然也不能用于解释意识。今天科学家在讨论神经元的记忆功能时，将其归为外部输入导致其阈值变化，其后果是输入与输出关系的改变。必须强调的是，这是用受控实验和受控观察研究神经系统如何记忆得到的结论。例如，一只狗被汽车撞了，下次见了汽车就会害怕，神经科学用狗有记忆来说明这一点时，记忆被称为生物对外界刺激的敏感化。这种解释可被一个普遍可重复的受控观察证明，它当然是真的，但这种记忆中不存在意识。难道记忆真的和意识无关吗？答案是否定的！

心理学家都知道：用行为模式的改变来定义的记忆，实际上只是记忆的一种形态，称为“程序性记忆”。人学会游泳但事先并不知道在水里应如何动作，这是一种和主体无关的记忆。人还有一种记忆，它是通过主体唤起过去的经验呈现出来的，心理学上称之为“陈述性记忆”。陈述性记忆具有符号性、意向性、建构性、会被遗忘等特点，它使人能主动地去适应环境。事实上，“人有陈述性记忆”是通过拟受控实验（观察）证明的。在相应心理学实验中，普遍可重复实验的控制变量中存在主体，实验也要求主体进入实验条件之中。所有这一切都是科学真实领域中的普遍可重复之受控实验和受控观察不能做到的。

科学真实研究中主体被悬置，不仅体现在普遍可重复的受控实验和受控观察里，更表现在根据已知的科学原理设计的仪器和计算机之中。人造神经网络、人工智能不会有意识，因为它们是用科学原理设计出来的，证明这些原理为真需要普遍可重复的受控实验和受控观察（或作为其符号表达的数学）。而在普遍可重复的受控实验和受控观察中，可控制变量和可观察变量中都没有主体，仪器和程序中也不会有主体。在什么前提下，人造仪器或程序有意识？如前所述，它们的设计原理必须被普遍可重复的拟受控实验（观察）证明。至今人工智能中还没有这样的设计原理，人们指望意识在今日人工智能程序中涌现，是把自己（主体意识）投射到仪器中的想象。

这方面最典型的例子是对思维和智能的行为主义定义：如果我们对机器提一系列问题，当其回答和人没有区别时，即可认为机器和人一样能思维。这就是图灵测试。表面上看，人的思维和智能规定了人如何根据自己收到的信息（输入）给出相应的回答（输出），只要机器的输出和输入关系与人一样，两者就没有差别。其实，这是不正确的。因为人是主体，主体可以否定原有的输入与输出的关系，做出完全不同于任何既定程序规定的行为。行为主义根据机器以前的表现和自己一样，就把自己有意识投射到机器中去，认为机器有意识。这是把拟受控实验（观察）误认成受控实验（观察）。

早在20世纪80年代，美国哲学家约翰·塞尔提出“中文房间”的思想实验时已经隐约感觉到这一点。塞尔想象一位只说英语的人处于一个“中文房间”之中，除了有一个小窗口外，该房间是对外封闭的。房间里有足够的稿纸、铅笔和橱柜，还有一本中文翻译手册。当写着中文的纸片通过小窗口源源不断地被送入房间中，房间中的人可以使用手册来翻译这些文字并用英文回复给窗外。这时，房间外的人都以为房中的人懂中文也懂英文，而事实上房中的人根本不懂中文。塞尔用这一思想实验证明：一个既懂中文又懂英文的人，判断另一个人和自己一样既懂中文又懂英文，是把自己想象成对方，以解释其行为。这和“中文房间”里人的处境完全不是一回事。

“中文房间”实验中的人是程序的一部分。“中文房间”的输入与输出关系之中都没有主体，程序运作也不需要主体的存在。而房间外的人则可以将其想象成自己，将自己如何把中文翻译为英文的过程投射到房间中人的行为之中。这种投射是将主体放入本来不存在的输入和输出关系中。今天人们熟知的Chat GPT实际上就是“中文房间”的升级版。其输入为一个由文字组成的符号串，它代表我们向智能程序提出的问题和要求。智能机器根据输入用程序产生另一个由文字组成的符号串，提问题的人读懂了这个符号串，认为智能机器回答了自己的问题。有人认为，据此可认为人工智能是有意识的，因为其通过了图灵测试，其实那个根据输入做出输出的程序，根本不知道输出符号串的意义，正如前面讲的第一种记忆那样。这可以解释为什么迄今为止所有人工智能都不能通过图灵测试。事实不正是如此吗？无论计算机的输入和输出关系多么接近人的行为，因为其没有主体，只要在新的测试中加入一个计算机学习中不曾考虑到的主体特有的指标，这时计算机的输入和输出立即和人的行为区别开来了。

既然现代科学研究不能揭示意识，解开意识之谜的钥匙在哪一个领域呢？显而易见，意识研究必须以拟受控实验（观察）为基础。拟受控实验（观察）中，主体可控制（可观察）变量M包含主体，但作为实验结果的真实性，其和用受控实验（受控观察）保证科学研究结果的真实一样，必须依靠其普遍可重复性。读者或许会问：真的存在拟受控实验和拟受控观察吗？有关意识研究的真实性唯有靠其普遍可重复来证明吗？当然是的，心理学就是最典型的例子。

—End—

本文选编自《我的哲学探索》，特别推荐阅读。该文由出版机构提供，只做推荐作者相关研究的内容参考，不得用于商业用途，版权归原出版机构所有。任何商业运营公众号如转载此篇，请务必向原出版机构申请许可！

点击下列标题，延伸阅读：

金观涛、刘青峰｜试论中国式的自由主义

金观涛｜为什么要研究思想史？