《集异璧之大成》阅读笔记及杂谈

于一切法，应如是知，如是见，如是信解，不生法相。——《金刚经》

一：前言

这个章节的主要内容算是前面两篇笔记主题的结合和总结（相对来说短一点），其一是关于哥德尔论证可重复性的探讨，这一点先用阿基里斯和乌龟的聊天做了一个形象的比喻，然后进入第二部分。关于之前提到过的卢卡斯-彭伦斯论证的反驳，之前提到过这个论证，物理学家、哲学家约翰·卢卡斯和罗杰·彭罗斯提出用哥德尔不完备性定理证明了“强人工智能”的不可实现性。这个论证提出的时候，自然是受到了整个AI领域的激烈反对，侯世达也是其中之一。

当然这是侯世达当时的观点，他自己也提到当初写GEB的其中一个目的就是为了反驳这个论证。当然如果让他今天来看的话，可能他会有不同的意见。所以这一章节的内容相对前面来说可能带有了那么一点“主观”、“情绪化”的感觉。毕竟关于这个问题的本身目前还是不可证的，所以处在讨论阶段的问题的任何结论必然是带着个人倾向的。

虽然目前还没有定论，但不论朝着哪一个方向上走，都不会是没意义的。这种争论的引起其实一直都是带有着个人情绪的，因为一种论点的发表往往其中就蕴含了反方论点的无效性。这不是很正常吗？但这其中也包含了，反方的工作价值和努力都被否定了。所以个人情绪总会在不知不觉当中渗透进理智的逻辑表达当中，而往往能引发激烈争论的问题，在当下基本都是无解的，就像对于哥德尔不完备性定理的描述一样，往往人们到最后拿不出更有说服力的依据的时候，只能挥舞着双手大喊：“我就是相信！”（这一段在前面关于素数证明的时候就提到过一次）

GEB这本书到后面的章节开始，越来越多的内容和前面的章节开始呈现出对应的关系，尤其是关于哥德尔的部分就更是明显了。乌龟算是这本书里哥德尔不完备性定理的代言人，先后有螃蟹和阿基里斯和乌龟争论过关于晚辈证明的问题，前者是之前提过的“完备唱机”争论，后者就是这章节的“生日大合唱”。

这一篇的内容挺简单的，阿基里斯如何用形式证明的方式说服乌龟今天是他的生日。（不要提拿出生证之类的或者把乌龟打一顿这种的，因为就算这样乌龟还是可以选择不相信。）而且通过这个对话其实也可以衍生出去（书外的内容），我们发现“质疑”似乎可以无限进行下去，而“证明”始终像是追在后面的——警察抓“怪盗”。我们始终没有办法真正终结一个“质疑”——总有不可证的（网络“巨魔”多少也算是这种性质的一种体现吧，他们最强的武器之一23333……）

二：生日大合唱哇哇哇呜啊呜啊呜啊……

“五月里的一个晴朗日子，乌龟遇见了阿基里斯，两人便一起漫步在树林里。阿基里斯穿得漂漂亮亮的，摇头晃脑地哼着一段曲子，别在他衬衣上的一枚硕大的徽章上写着：‘今天是我生日！’”

一般情况下阿基里斯这么得瑟的话，乌龟大概就像给他开一些玩笑刺激刺激他了。根据前面的内容可以看出来乌龟挺腹黑的——螃蟹也是受害者之一。（但乌龟也不是老占便宜的，之前一个章节里阿基里斯就偷了个宝贝然后嫁祸给了乌龟，乌龟被警察带走了。）当然乌龟一般都会要做一个铺垫，然后再引阿基里斯进自己的逻辑陷阱，它于是就从阿基里斯的徽章上的内容开始说了。

乌龟谈到了1727年巴赫为萨克森国王奥古斯都五十七岁生日写作的《生日大合唱》，这也正好是阿基里斯这会儿嘴里哼唱的旋律。然后乌龟就问阿基里斯：“今天是你生日是吗？”（这就开始给阿基里斯挖坑了）

阿基里斯自然是很欣然的回答，今天就是自己的生日。然后乌龟说：“这正和我猜的一样。我将要推定今天是你的生日，除非——”这话说的就很别扭了，阿基里斯就问：“除非什么？”

乌龟说：“除非那是一个轻率仓促给出的推断。我们乌龟毕竟不喜欢跳跃推理（我们压根就不喜欢跳，尤其不喜欢跳跃推理。）我深知你也喜欢逻辑思维，那么请问，根据前面那些话，从逻辑上演绎出今天是你的生日，合理不合理？”到这儿，阿基里斯都已经看出来乌龟又打算给他下套了——之前已经吃了几次亏了。

阿基里斯说：“我相信我已经看出你提问的规律了，龟兄。但我这回不跳着推理了，我要按字面意思对待你的问题，直截了当地回答你：是……我明白你要问些什么，龟兄。我得让你知道，我已不像不久前讨论欧几里得证明时那么容易上当了。”可惜的是阿基里斯这会儿已经上套了，这里也看出这些学术领域当中的问题，就像乌龟一样狡猾。而学者们就像阿基里斯一样，一直处于被动地见招拆招的状态下，但反过来说，阿基里斯并不是没有收获的。——否则乌龟要是纯粹找事就已经被阿基里斯踹死了……

乌龟还是用几句恭维的话把阿基里斯绕进去了，它和欧几里得证明那会一模一样，反复就一句话：“上面那些话是否可以让我丝毫不差地推出今天是你的生日？”

阿基里斯显然是不耐烦了：“那好，我就来一劳永逸的解决这个问题。你先前所提出的全部问题，以及你今后按这种方式将提出的全部问题，答案都一样，那就是：是！”阿基里斯的回答方式就像前面介绍哥德尔定理时候讲述的TNT系统定理一样，但是TNT已经被判断出是“欧米茄不完全”的，阿基里斯的回答方式也被乌龟概括为了“欧米茄答案模式”（实际上还是不完全的）。

阿基里斯不打算纠缠下去，但乌龟还没完：

“我会承认今天是你的生日的，只是要有一个条件——只要你让我确信，一下子给出全部那些‘是’答案（由欧米茄答案模式给出的），我就能不绕弯子而直接推出今天是你的生日。”

乌龟的歪招其实很简单：它只要归纳了阿基里斯的答案，构成一个答案模式，就能找出不完全。于是阿基里斯就“白答了”，因为乌龟还是不能不绕弯子推出这个答案。

阿基里斯也发现这个问题了：“真讨厌！每次都给我的答案起个名字。我本希望这个答案能使你满意，可这么一来我的希望立刻又落空了。我们刚才干嘛不留着这个答案模式不起名字呢？”

乌龟：“哪有那么容易！不起名字就没法称呼它了。此外，这个特别的答案模式是有点不可避免的，而且还相当漂亮，要是连名字都没有就不太雅观了！你过生日时总不想做些什么观之不雅的事情对吗？或者，今天不是你的生日吧？要说生日，今天该是我的生日！”（感情乌龟在这儿等着呢……）

阿基里斯：“什么？今天是你的生日？”

乌龟：“对，没错。不过说老实话，今天是我叔叔的生日，但那差不多是一回事。今天晚上你打算怎么请我吃美味可口的生日晚餐啊？”（这不讹人吗？）

阿基里斯：“得了吧，老龟！今天是我的生日，该你作东！”（你滴作东，我滴作西，我滴钱滴，不用滴！——by：濑川太君）

乌龟：“啊，可你一直没说服我相信你这个说法是真的。你热衷于用那些答案、答案模式等等东拉西扯，可我想知道的是：今天是不是你的生日。你整个把我搞晕了。唉，太不幸了。不过，无论如何，你今晚要是请我吃一顿生日晚餐，我将十分高兴。”

阿基里斯：“那好吧，我正好知道一个地方，那里有各种各样可口的汤，而我也恰好知道我们该吃哪一种……”（不会是王八汤吧，我估计如果读者是阿基里斯，那十有八九就是了……）

三：“反AI”争议

首先值得一提的一件事，是在前面的内容里提到过的关于“整体论”和“还原论”之争的问题。尤其是对于人类“智能”来说，这两个理论任意一个都无法完全涵盖全部的内容，但是二者又背道而驰，于是一直争议不断。这种情况其实已经渗透到了人类的方方面面，从个人到社会，任意一个话题，任意一个“形式”，无不充斥着“二元对立”的情况。甚至于对“人工智能”本身来说，也是如此。

人们对于“人工智能”的看法，被好坏、是非、高低等等“形式”上的差异所充斥，大家互相之间激烈的辩论，不论是理性的还是感性的。在禅宗那一章节其实说出了一个问题的关键：只要是形而下——你怎么能够不被“二元论”所掌控呢？而我们只要“存在”着，就必然处在“形而下”当中的。

把目光专注到人工智能这个问题上来，机核的几期关于“人造意识”的问题已经说过挺多内容了。可这个问题本身似乎是无穷无尽的，结果就是发现自己说的越多，涵盖到的面就越少。到最后甚至会觉得因为内容实在太多而不知道从何说起了。（笔者此刻就有这个感觉）

在面对关于“人工智能”争论的时候，要想理清思路还是有可能的，一般会归结到几个方面的问题上：为什么需要人工智能？拥有“人类意识”的“人工造物”应该如何看待？（人权问题）“人工智能”映照人类自身（不论是超越性、局限性、未来学等等）。有意思的是其实到最后我们会发现，这些问题最后在争论的是我们自身——无论如何最后问题都会回归到人类自身身上去，因为“人工智能”确实就是一种人类对自身的“映照”。

目前来说这样的讨论是很混乱的，首先是关于“人工智能”的定义问题，严格的来说，学术界对于这个概念实际上是有很详细的划分的，具体的定义对应不同的情况。在这样详细的规则下，很多问题会比较容易讨论。但是大众对于这一块的概念往往是比较混淆的，以“人造的人类意识”这个概念为大前提进行讨论，结果就是框架太大了，大家实际上说的可能都不是一回事，但又因为不同意见而产生矛盾，结果这个问题就争论不休了。

笼统来说，围绕“人工智能‘的两方争辩，其实大众和学术界还是有些不同的。前者的争议重点更加倾向于”要不要“（该不该）；后者的争议重点在于”能不能“。这两种争议不是一回事，虽然同时也都涉及到很多方面的内容。前者的领域主要是在：社会学、人权、人类定义、哲学、未来学方面（后启示录可以算是其中一个子版块了）；后者的领域则主要是：数理逻辑、生物学、各领域科学和应用等等。

大脑的混淆能力有时候是很强悍的，换个说法是联系能力是真的很强悍的。所以上述的这种分类方式有时在讨论的时候也会被混为一谈——”因为不该有人工智能，所以不能做出人工智能。“、”因为人类不好，所以应该做出人工智能。“、”不该有人工智能，但是能做出人工智能。“……把上述两种分类一混合，基本上就能列举出我们网上可以看到的大部分关于人工智能讨论的观点了。

当然大众的探讨带有”社会性探讨“也是很正常的，任何信息的传递都会受到”媒介“的影响。所以人工智能话题从学术界流入社会之后，自然这个话题上也被赋予了社会意义。（非专业的人讨论可可能更倾向于——我相信、我认为、我希望……专业人员的讨论则是更加理性一点的论证——当然也逃脱不了自己的倾向性。）

GEB的作者侯世达是学者，自然他参与争论的问题就是：学术界关于”人工智能“能不能达到的争议。学术界”反对AI“的思潮自然也是认为”人工智能“达不到（该不该的问题先靠后），然后意见双方围绕着这个问题展开讨论，这样的争论同时也带有着一种促进效果，同时一件双方的阵营也是在变化的。（比如侯世达教授现在的意见就和GEB的时候不一样了）

GEB当中侯世达主要还是相信人工智能是可以实现的，而他当时面对的对手就是人工智能领域很著名的”卢卡斯—彭罗斯论证“：以哥德尔不完备性定理证明形式系统不如”人类智能“，所以”人工智能“永远达不到真正”智能“的程度。（关于这个后面会详细说。）

关于AI可实现性的问题讨论，要是从头细数，估计内容是GEB全书的几百倍。估计能把任何知名的学术家全都扯进来，讨论的广度也基本涵盖了大多数的学科（这里还是只看专业人员的论述，无视掉外面非专业人士的大讨论）。所以相对来说，大家会把目光集中在整个讨论过程中最激烈的那一个部分。到目前为止AI可实现性的学术讨论还没结束——估计要结束就只有一种可能——AI真正做出来。因为如果一直做不出来，可能人们也一直不会放弃希望，会坚持尝试下去。（至于之后AI造反/做不做人这种的都是后话了）不可证不等于证伪。

学术辩论这件事情是一个太过于复杂的事情，说实话有时候甚至会找不到主题。知名学者可以秉持自己的理性坚持实证、严谨的逻辑推理。但他们也没有办法剔除自身的性格和主观看法的影响。比如之前提到过的丹尼尔·丹尼特，包括这里说到的卢卡斯和彭罗斯，都是如此。但他们高于一般人的地方就在于他们所具有的“说服力”，这种说服力和真正的现实没有直接关联，却容易让人混淆。就和之前侯世达教授一直反复提醒的一样——不要把“形式系统”混淆于“现实”。

彭罗斯教授

1·罗杰·彭罗斯

罗杰·彭罗斯爵士（Sir Roger Penrose 出生于1931年8月8日），英国数学物理学家与牛津大学数学系W. W. Rouse Ball名誉教授。“彭罗斯论证”的提出者。他在数学物理方面的工作拥有高度评价，特别是对广义相对论与宇宙学方面的贡献。他也是娱乐数学家【注1】与哲学家（很具有争议性）。罗杰·彭罗斯可以算是学术界出身名门了，他是科学家理昂内·彭罗斯与玛格丽特·雷瑟斯的儿子，为数学家奥利佛·彭罗斯与国际象棋大师强纳森·彭罗斯的兄弟——没错，著名的彭罗斯楼梯就是他和他父亲一起提出来的，他们还提出以及推广了很多几何上的特殊理论：彭罗斯三角等等都是。

1955年，当他还是学生之时，彭罗斯重新发明了广义逆矩阵（又称作摩尔—彭若斯广义逆，是最著名的广义逆阵。广义逆阵是指在线性代数中对矩阵的一种运算。）

1958年，彭罗斯在剑桥大学知名代数学家与几何学家约翰·陶德指导下获得博士学位；其博士论文题目为《代数几何学中的张量方法》（Tensor methods in algebraic geometry）。1965年在剑桥大学，彭罗斯与著名物理学家史蒂芬·霍金证明了奇点（例如黑洞）可以从毁坏中的巨星体的重力坍缩现象中形成。

1967年，彭罗斯发明了扭量理论，将闵可夫斯基空间中的几何物体映射到4维复数空间，此空间度规标志为（2,2）。两年后，他推测出宇宙审查假说（在广义相对论中，强形式和弱形式的宇宙审查假说之提出，是为了从数学上解释引力奇点的结构。）这项提案（非正式地）指出了宇宙阻挡我们了解奇点（例如黑洞）内蕴的不可预测性（曲率就是常见的内蕴概念），以其被遮掩在我们视线之外。这个形式现在称作弱审查假说；于1979年，彭罗斯建构了更强的形式，称作强审查假说【注2】。加上BKL猜想与非线性稳定性问题，使得审查猜想成为广义相对论中最重要的未决问题之一。

罗杰·彭罗斯于1974年发现了著名的彭罗斯铺砖法，能以两种砖片非周期性地铺满整个平面。1984年，类似特征被发现存在于类晶体中的原子排列。彭罗斯最重要的贡献可能是他在1971年发明了自旋网络，尔后在循环量子引力理论中成为构成时空几何的基础。他在推广通称为彭罗斯图的因果图颇具影响力。

2004年，彭罗斯发表了《接近真实：宇宙法则导引》（The Road to Reality: A Complete Guide to the Laws of the Universe），是一本1099页的大部头，彭罗斯写作这本书的目标在于，帮助人们尽可能详尽的了解物理定律。

除了上面这本书彭罗斯还撰写了探讨基础物理与人类（或者动物）意识之间联系的一些书籍。比如在《皇帝新脑》（1989）一书中，他声称已知的物理定律不足以解释意识现象。彭罗斯提议新物理学所具有的特性应该能填补经典物理学和量子力学（他本人称之为正确的量子引力理论）之间的理论沟壑。（这个思路和之前提到过的丹尼尔·丹尼特的思路截然不同。）

彭罗斯使用图灵的停机问题的变体（比如，考虑只有ON和OFF两个状态的机器，当给定的图灵机停机时，系统状态被置为ON；当图灵机运行时，系统则被置为OFF。如此，系统状态将完全取决于图灵机本身。但是并没有算法上可行的方法来确定图灵机是否停机）来说明一个确定性的系统并不需要一定是图灵可计算的。

彭罗斯相信这种确定性和非算法性共存的计算过程或许在量子力学波动方程的推导中起到作用，甚至可能在智能的产生中具有作用。他认为作为一种算法确定性的系统，当前的电子计算机无法产生智能。

他反对认为大脑的推理过程是完全的图灵可计算的观点（否则的话大脑就可以被足够复杂的电子计算机复制）。彭罗斯的这方面观点与强人工智能支持者的观点截然相反，后者即认为思维可用算法模拟（丹尼尔·丹尼特、马文·闵斯基……）。为了驳斥后者的观点，彭罗斯声称意识是超越数理逻辑的，因为诸如停机问题的不可解性质和哥德尔不完备定理导致基于算法的逻辑系统不能产生具有人类智能特性的智能（比如，对数学的洞见）。这些说法最早得到了牛津大学莫顿学院的哲学家约翰·卢卡斯（GEB当中侯世达主要反驳的对象就是这位）的支持。

罗杰·彭罗斯声称“可被机械地证明的”和“对人类来说看起来是真的”的这两者存在区别，表明了人类智能在本质上不同于机械过程。这一观点未被普遍接受，彭罗斯和卢卡斯关于哥德尔不完备定理在人类智能的计算理论方面所具有的含义的观点受到了来自数学家，计算机科学家和哲学家的广泛批评。尽管不同领域的专家会从不同的方面进行批评，但上述领域的专家们一致认为彭罗斯和卢卡斯的观点是不成立的。

马文·闵斯基 （人工智能的主要支持者）的批评尤其激烈：彭罗斯“一章接一章的试图说明人类意识不能基于任何已知的科学原理。”闵斯基的立场与彭罗斯完全相反--他相信本质上来说人类就是机器：虽然这种机器的功能很复杂，但使用现有的物理学是完全可解释的。闵斯基如此评价彭罗斯：“在科学探索的道路上，仅靠攻击现有的科学知识将无法获取新的原理。但在我看来，这就是彭罗斯的探索手段。”马文·闵斯基指出人类智能有犯错误和理解不兼容和谬误句子的能力，所以彭罗斯的观点是错的。

但马文·闵斯基透露说哥德尔曾私下告诉过他，他相信人类有一种到达真理的直觉方法，但因为跟计算机式的方法不同，人类可以知道为真的事情并不受哥德尔的定理限制。

作为对《皇帝新脑》所受到的负面评价的回应，彭罗斯随后出版了《意识的阴影》（Shadows of the Mind, 1994）和《庞大，渺小，及人类意识》（The Large, the Small and the Human Mind, 1997）。彭罗斯用量子力学来证明自己的观点，并且他和麻醉专家史都化·哈莫洛夫合作，从生物学方面对自己的研究进行并补充。他认为意识是微管（微管是细胞骨架的一个组成部分，遍布于细胞质中。）中量子引力效应引发的结果，并且这个引发过程被称为Orch-OR假说（暂时的翻译名叫：“协同客观崩现”）。2014年1月，史都华·哈莫洛夫和彭罗斯主张，日本物质材料研究中心的博士 Anirban Bandyopadhyay 所发现的微管中的量子振荡证实了Orch-OR假说。这个理论的修订更正版伴随著批评和辩论发表在《Physics of Life Reviews》。

彭罗斯对于人类意识过程的看法目前在科学界依然被认为是”少数派看法“，有人说他是”少数相信意识的本质是量子过程的科学家之一。“

彭罗斯是一个无神论者。在纪录片时间简史（A Brief History of Time）中，彭罗斯说道：“我认为宇宙是有目的的，它的出现不可能是机缘巧合...有些人认为宇宙就是会存在，而且就是会运转--有点类似某种计算过程，然后我们不知道怎么的，就意外出现在宇宙中。但是我认为在看待宇宙的问题上，这些看法并不具有建设意义，我认为关于宇宙一定有什么更深刻的东西。”

注1：娱乐数学（Recreational mathematics）是和娱乐有关的数学，不是因为纯粹学术研究或是实务应用需求而有的数学领域。娱乐数学包括了数学谜题及数学游戏，探讨者不限于数学业余爱好者，不过有些主题不需用到高深的数学，因此娱乐数学常会引起一般人对数学的好奇心，进而更多的了解数学。美国数学协会在其17个领域分组（SIG）中也包括了娱乐数学在内。

娱乐数学中有不少大众常见的内容，例如魔术方块、魔方、碎形、逻辑益智游戏及数学国际象棋问题（如骑士巡逻及八皇后问题）等，不过娱乐数学中也包括数学中的美学及文化、特别或有趣的数学故事、数学巧合以及一些数学家的生平。

数学游戏：是其规则、策略或是结果可以用数学表示的多人游戏。玩的人不一定会直接用到数学。例如播棋是数学领域中组合博弈论的内容，但玩的过程不一定会用到数学。

数学谜题：是需要用到数学才能求解的谜题，像数学游戏一样有对应的规则，不过没有多人竞赛的竞争性。玩的人需要找到满足谜题条件的解，才能求解谜题。

像逻辑益智游戏及古典密码都是常见的数学谜题。而细胞自动机及碎形也常列为数学谜题，不过参与者只需要设定初始条件即可。

其他和娱乐数学有关的内容包括：折纸的算法以及其几何特性、翻线戏的模式以及技巧、碎形生成软件等。

注2：强弱审查假说是关于时空几何结构的两种数学猜想。

弱审查假说断言，奇点必须被隐藏在黑洞的事件视界之后。

强审查假说断言，广义相对论和经典力学一样，是确定性的理论。换句话说，确定性系统的状态在初始时刻就已注定。数学上，该猜想认为初始数据的最大柯西展开作为常规的洛仑兹流形不具有本征扩展性。

彭罗斯铺砖法

2·卢卡斯—彭罗斯论证

《心灵、机器与哥德尔》（Minds, Machines and Gödel）是由约翰·卢卡斯于1959年撰写并发表的的哲学论文，他通过这篇文章阐述了自己的核心观念：人类数学家不能被图灵机准确替代，故而不可能创造出完全能够模拟人脑的机械模型。本论文以机械论作为哥德尔论证的机制。卢卡斯于1959年将该论文提交给牛津哲学学会。首次发表于《哲学》（Philosophy，XXXVI，1961年），后在1963年再版于《心智模型》，在1954年再版于《心灵与机器》。

这篇哲学论文可以说是促成了GEB这本书诞生的重要原因之一，它同时也激发了AI学界持续至今的大规模讨论（此前也存在着反驳意见，但当时大家的反对相对来说没有那么的系统性、学术性，因为都是科学发展的初期阶段）。一些对于人工智能发展过于乐观的想法被泼了冷水，于是激起了反弹，人们也就陷入了辩论的漩涡当中去。但这不是不好的，恰恰相反，通过这些讨论，人们有了更多更深刻的认识。（所以了解反面意见是真的很重要，尤其是双方有理有据的时候，但这个时候的坚持立场就更需要进一步的提高自己了。）

约翰·卢卡斯并不是最早提出质疑的人，阿兰·图灵在他1950年发表的著名论文《计算机与智能》一文当中就已经罗列出了一些质疑（图灵测试也是这篇论文里被提出的）。而哥德尔不完备性定理对于人工智能可能性的动摇，也在这篇文章里被提出来了。当然哥德尔罗列的面比较广泛，所以相对来说就说的比较笼统一些（他对一些当时就存在的反驳意见进行了辩护，这篇论文可以说确定了日后人工智能发展的大方向）。约翰·卢卡斯之后发表的这个论证就是基于这个概念的基础进一步进行拓展的。

卢卡斯的论证思路是这样的，首先是哥德尔不完备性定理证明了任何足够强力的系统都无法逃脱“不完备性”，除非系统是“不一致”的。始终存在一个在系统内不能被证明的真命题。可是你看我们的人脑却知道这是正确的！我们的判断依据不是形式系统的推理演绎。这是一个前提，然后转头来看机器，任何一个机器想要运行就必须对应一个形式系统，那么形式系统理论上受到的限制，机器在实际上也会受到一样的限制——因为它们是对应的。

所以直白地来说，人脑总是能跳出形式系统不受限制，做机器做不了的事情，不论机器有多复杂。受到哥德尔不完备性定理的影响，对于任何这样的自动机，都会有一些它无法证明的数学定理，但是人类数学家却可以看到并证明为真。

这个看法不是没有反驳的余地了，卢卡斯也在自己的论文里，对于质疑自己观点的看法提出了辩护。首先就是人类大脑怎么能就不能也是一个形式系统呢？卢卡斯说：“诚然大脑不可能直接战胜所有的机器，确实有些机器在某一方面能够胜过人类的大脑，但这不能说明问题。”也许真的可以做出某种模仿人类智能的机械模型，但是它依然有自身做不到的事情，而不论如何修改，总还是能找到类似的情况，最后机器还是机器，它依然受到某种限制，但是人类的智能并不会。

拓展开来来说，卢卡斯认为哥德尔定理适用于逻辑演绎系统，而很明显人类的“智能”不局限于逻辑演绎系统，后有某种非推理演绎的情况，这种情况下可以绕过哥德尔不完备性定理。这个例子套用最早第二篇笔记里WJU系统那个游戏的时候，如果有人做过可能会体会到——我们为了得到结果会跳脱系统给定的推理规则自己去总结。卢卡斯认为这是人类大脑超越形式系统限制的一个证明，但侯世达（当时）代表的那一派观点则认为这只是一个更大形式系统的表现。

尤其对于卢卡斯的论点提出反驳的最重要的一点，就是人类大脑是否具有一致性的讨论。对于自身“一致性”的证明会涉及“自指”。这就产生了“悖论”，一致性的系统在自身内部无法证明自己的一致性，反之亦然。有学者提出人类的大脑过程也是机械的，只不过是一个不一致的系统。卢卡斯教授反驳说，如果是一个不一致的系统，那怎么可能产生出良构的命题呢？——人类大脑能做出正确的命题，如果不一致，就不会产生正确的逻辑命题。（这一块找证明的话，可能精神病研究领域能找到不少佐证。）

卢卡斯教授说，我们的大脑确实是不一致的，但不是不一致的系统，而是有时会产生不一致的错误。卢卡斯认为这仅仅是容易出错但能自我修正，但即使是机器能做到这一步，依然逃脱不掉哥德尔不完备性定理的限制。机器不一致，系统犯错就会受到规则限制：停机、卡壳、系统崩溃。但是人的大脑不会，我们会犯错，却并不会因此出现和机器一样的情况。

进一步的来说，哥德尔的工作证明了机器无法自指——“不可证”，但是人类的大脑可以。产生出意识悖论恰恰是有意识的表现，而这一点在机器当中是不能显现的，机器一旦出现悖论就会停机（规则导致算不出结果的情况下都会强制停机，否则就是无限算下去，但两者都得不出答案来，人类的大脑却能给出答案，哪怕是错误的答案。）

卢卡斯教授在论文的后半部分提到了“复杂性”的问题，他说也许机器复杂到一定程度的时候，可能会真的变得不可预测，能做出所有的事情，独立运作——但那还是机器吗？（超过复杂性临界点的这个概念，在GEB这本书里也有提过。侯世达教授在前面的章节里就说过了，有意思的是，虽然卢卡斯教授得出的结论和自己在GEB这本书里写的结论截然相反，但是他们所使用的论证材料却是很类似的。）

最后卢卡斯表明自己的观点，他认为自牛顿以来的机械决定论一直困扰着整个学术界，但是随着进步，这些限制逐渐被打破了。创造出一个可以产生出“意识”的机械模型不是没有可能的，但是就像不存在用一个力学模型就涵盖所有情况一样，也没有一个机械模型可以涵盖全部的心灵和意识，虽然它们是具有启发性的，科学探究是不受限制的，但任何科学探究都无法到达人类思维的尽头，因为他相信人类的思维是无限多样性的。

卢卡斯教授的结论基本如上所述（特别笼统地概括了一下），而这个反对机械论的观点毫无疑问首先就受到了机械论者的激烈抨击。但也不是没有支持者，卢卡斯的论文作为基础，上面提到的罗杰·彭罗斯进一步拓展了这个论证。

如果把卢卡斯的论点概括为：人的意识无法被算法涵盖，故而无法通过数字电子计算机模拟。（卢卡斯还在论文里提到了人们对于“电子计算机”的迷信，好像觉得“电子”带来了本质上的变化，但是实际上只不过是硬件方面的强化罢了，本质上来说巴比奇的分析机原理上是可以做到现在电子计算机的所有事情的——只不过资源消耗太夸张了而已。本质上并没有什么不同。）

彭罗斯进一步强化了卢卡斯的论点：人的意识机制不能被目前所知的物理定律所描述。如果按照“系统强度”来说，彭罗斯的命题涵盖范围要比卢卡斯的更强，所以之后人们把他们两个人的论证合称为：“卢卡斯—彭罗斯论证”。

彭罗斯的立足点是人的意识中的一小部分（因为大部分人日常生活并不以复杂的数学思维为主）——数学洞察力——是一种能够从发现已知命题的哥德尔命题（“超越命题”）的正确性的能力。人能够理解和意识到一条数学命题的正确性及其意义，而不只是纯粹做公理的推演和符号的组合。而这个“理解”的能力或潜力作为意识的判据是至关重要的。

哥德尔定理证明了数学系统中有不能被证明是该系统的定理的真陈述。

哥德尔定理的特定版本“停机问题”的不可解，以此证明人类意识不能通过计算机模拟。

神经元的各个特征可以通过计算方式模拟，因此神经元不能解释意识。所以解释意识需要某种“真正不可计算”的东西，这种东西只能是亚神经元层次的。所以，要理解这一点需要物理学革命。（《皇帝新脑》一书中，彭罗斯做了详细的论述。）

面对这个论证，反对者的主要思路也是从对于“哥德尔不完备性定理”的理解展开的，对以上认为该定理揭示了人类具有超出形式逻辑之能力的这种观点，他们作出如下评论：我们其实不知道“p”（“超越命题”）是真是假，因为我们并不（也无法）知道系统是否是兼容的。因此实际上我们并不知道系统之外的任何真理。我们所确知的只有这样一个命题：

要么“真陈述”?在系统内部无法证明，要么该系统是不兼容的。

所以这样的命题其实之前已经在系统内部被证明，而不是大脑超越了系统之外。

上面的争论到今天依然纠缠不休，但是我们看到了，争论点其实是对于“哥德尔定理”的概念性理解上面，虽然后面的推理论证都很严格，但是在概念陈述上，大家并没有共识，也没有可以依据的标准，除非还有更多的发现，这很有意思。

龙试图从二维进入三维，仔细看~~

四：跳出系统

“如果有一个善于思考的人来批评哥德尔的证明，那么他可能采取的一项行动就是检查该证明的一般性。比方说，这样的一位批评者有可能怀疑哥德尔只是机智的抓住了一个有利条件：在TNT这个具体的形式系统中隐藏有某种缺陷。如果真是这样，那或许就能搞出一个比TNT高明的形式系统，其中不再会有什么东西落入哥德尔的圈套，从而就能使哥德尔定理大减其色。在这一章里，我们就要仔细审查TNT的一些性质，它们使TNT在上一章的那些讨论面前显得是个极其脆弱的系系统。”

基本上应对哥德尔不完备性定理的方式都是给系统升级，包括之前已经说过好几次了。TNT系统是侯世达教授做出来专门用来形象化描述哥德尔不完备性定理的系统，所以他也一直在书里用这个系统来表现哥德尔不完备性定理的种种特性。

类似的证明其实在前面已经论述过了，包括螃蟹和乌龟的争论，包括上一章节的详细讲述。总之目前为止的结论是，哥德尔的证明依然是完全正确的，任何强力系统在保持一致性的情况下都无法摆脱哥德尔的陷阱。我们把这个“升级”思路再理一遍就会发现有趣之处，这个特别的发现是侯世达拿来反驳卢卡斯教授论证的一个重要的论断。

首先要确定的思路是，既然一个手头的形式系统已经被证明不完备了，我们已经发现了那个不在系统之内的“定理”被哥德尔方法检验出来了。那么要怎么“补完”呢？很明显就是把这个被新发现的“定理”纳入系统当中来。这样一来把系统不包含的“定理”收入今来，系统不久得到了扩充吗？于是就补充了“漏洞”对吗？——别不好意思，不对。

哥德尔证明的一大重要特性在于它的可循环证明，比如说：把上面这个得到升级的新系统再一次进行哥德尔配数，然后进行检验。结果又构造出了一个新的哥德尔语句，这个语句依然跳出了系统之外。再来一遍，再次收纳这个新的哥德尔语句，然后再检验……循环。这就变成了一个无限的过程——无论如何都有新的“哥德尔语句”跳出系统之外。事实证明这个系统补全方法对付不了哥德尔不完备性定理。

上一篇笔记当中提出了另一个思路，如果把那个被构造出来的，系统之外的命题的“反命题”收纳入系统当中会怎么样呢？——反向补全。结果是一样的，定理给出了“我在系统中不可证”的自指。这这个自指来自于系统——之前反复提过哥德尔不完备性定理只适用于可以包含了“皮亚诺算术公理”的强力系统；换言之强到可以在系统内部“自指”的系统。

而只要“自指”就会给出自身“不完备”的证明，这构成了一个完美的循环论证。哪怕是第三种系统补全方案——把超出系统的“命题”及其“反命题”都再次纳入系统当中去。结果就造成了多重分叉现象，沿着两个命题的方向（“G命题”及其“反命题”。）系统升级之后就有了两个既然相反的系统，但是哥德尔定理一视同仁，依旧可以找出“哥德尔命题”及其“反命题”，接下去这个分叉现象就没玩了。

所以哥德尔证明的这个不完全，是一个本质上的不完全：

“在《对位藏头诗》中，乌龟制造‘不能播放的唱片’时所采取的一个关键步骤，是搞到他预谋破坏的那台唱机的一份设计图。这是为了搞清哪种震颤能击中它的弱点，然后再把这种震颤录进他的唱片，使音槽记有能导致这种震颤的声音。这与哥德尔的手段极为相似，按照哥德尔的手段，一个系统本身的一些性质在证明对概念之内得到了反映，然后再针对它来使用这些性质。任何一个系统，不管多复杂，多不好把握，都能进行哥德尔配数，因而就能定义证明对的概念——以子之矛，攻子之盾。只要一个系统是量定义的，即‘理顺了’，它就变脆弱了。”

“对形式系统的来说，正是给出一个明确的处方这一举动——原以为它刻划了数论真理——导致了不完全性。这就是TNT+G（ω）的症结所在。一旦你把全部的G都以一种界说良好的方法加入TNT，那就会看到还有其它的G——某个没预见到的G——是你的公理模式被捕捉不到的。而在《对位藏头诗》中的龟蟹之战里，一旦确定了唱机的‘体系结构’，者淘汰昌吉可能就没指望了。”

系统的“自指”能力，可能是当时侯世达教授看到的某种可能性，以及那些系统的无穷推理演绎。这种抽象概念很难表述清楚，但是它们体现出来的某种性质，确实会让学者们产生联想——注意这里一个隐藏着的思路，至少侯世达教授以及当时的那一派学术观点来看，他们是把形式系统类比于大脑的，所以这些发现确实是一种“希望”。

“引人入胜的事情是，任何这样的系统都在自身挖了洞：系统本身的丰富性使它自己垮了台。由于该系统强得能有自指句子，这种垮台现象就不可避免。在物理学中，像铀这类的裂变物质有‘临界质量’这样的概念。一块固态物质，如果其质量小于临界质量，它就呆在那里平安无事，可一旦超过临界质量，这块东西就会经历链式反应，发生爆炸。我们的形式系统好像也有一个类似的临界点。在临界点之下，系统‘无害’，但距形式地定义算术真理却相去甚远；一旦超过临界点，它就立即获得自指能力，从而也就注定它自己不完全。那么，什么时候一个系统会具有上面三个性质？界限是模糊的。只要获得了这种自指能力，该系统就有了一个为其自身所特质的漏洞。这个漏洞注意到该系统的特征，并针对该系统来利用这些特征。”

到这里为止，侯世达教授已经阐述了自己对于哥德尔定理的理解，这些观点将是他接下来反驳卢卡斯教授的论文的重要思路——系统的“超越性”。

自指悖论

1·卢卡斯式的非难

“哥德尔的论证的这种扰乱神智的可重复性，已经成为很多人——尤其是卢卡斯——的作战武器，想以此来说明人类智能具有某种难以捉摸、不可言状的特点。因此‘机械自动机’——也就是计算机——无法达到人类智能。”

关于卢卡斯教授的论证，在上面已经大概的总结了一下，这一段侯世达教授也是大概的总结了一下，为下面自己要做的论述做铺垫。（笔者在写笔记的时候查阅了卢卡斯教授的这篇论文《心灵、机械与哥德尔》的原文——因为基本上没有中译：之后可能会在笔记附录系列里面尝试自己翻译一下——自己给自己挖天坑。）

“他说，对任何一个强如TNT的系统——因为究竟是哪个系统是不重要的——我们人类总能实施哥德尔手段，所以我们总比它知道得多。这样听起来好像只是一场有关形式系统的争辩，不过稍加修改之后，似乎就变成了反驳人工智能终会重现人类水平的只能的一个战无不胜的论证了。其要点是：

刻板的内部编码完全控制了计算机和机器人，于是……计算机同构于形式系统，那么……任何一台想要和我们一样聪明的计算机就必须能对数论做我们能做的事，所以……

除其它事情之外，它必须能完成原始递归算术，而正因为如此……

它就很容易上哥德尔的‘钓钩’，这就意味着……

由于我们的人类智能，我们能表造出一个数论语句，它是真的，但计算机对该语句的真实性却视而不见（也就是说，永远打印不出来），其原因恰恰在于哥德尔那种‘自食恶果’的论证。

这意味着有那么一件事是必定不能给计算机编上程序来做的，而我们却能做。所以我们要更聪明一些。”

值得提醒的是，这里谈论的“人工智能”概念，按照现在的严格分类来说，应该属于：强人工智能的概念，而我们寻常聊起的时候，指的是整个的“人工智能”概念。这二者一旦混淆，很多问题就说不清楚了，所以必须要时刻保有对“人工智能”概念的细分。（因为这个领域涉足的内容确实太多了，目标也不一样，部分清楚有时候会引起驴头不对马嘴的争辩——没意义的争辩。）

“强弱人工智能”是人工智能的一个比较流行的定义，也是该领域较早的定义，是由当时麻省理工学院的约翰·麦卡锡在1956年的达特矛斯会议上提出的：人工智能就是要让机器的行为看起来就像是人所表现出的智能行为一样。但是这个定义似乎忽略了强人工智能的可能性。另一个定义指人工智能是人造机器所表现出来的智能。总体来讲，当前对人工智能的定义大多可划分为四类，即机器“像人一样思考”、“像人一样行动”、“理性地思考”和“理性地行动”。这里“行动”应广义地理解为采取行动，或制定行动的决策，而不是肢体动作。

强人工智能观点认为“有可能”制造出“真正”能推理和解决问题的智能机器，并且，这样的机器将被认为是具有知觉、有自我意识的。强人工智能可以有两类：

1·人类的人工智能，即机器的思考和推理就像人的思维一样。

2·非人类的人工智能，即机器产生了和人完全不一样的知觉和意识，使用和人完全不一样的推理方式。（这两点在科幻领域经常会用到，能举的例子很多。）

弱人工智能观点则认为“不可能”制造出能“真正”地推理和解决问题的智能机器，这些机器只不过“看起来”像是智能的，但是并不真正拥有智能，也不会有自主意识。

弱人工智能是对比强人工智能才出现的，因为人工智能的研究一度处于停滞不前的状态下，直到类神经网络有了强大的运算能力加以模拟后，才开始改变并大幅超前。但人工智能研究者不一定同意弱人工智能，也不一定在乎或者了解强人工智能和弱人工智能的内容与差别，对定义争论不休。（严格意义上说，卢卡斯教授的论证可以归于这个概念的划分，他并没有完全否定“人工智能”。）

就当下的人工智能研究领域来看，研究者已大量造出“看起来”像是智能的机器，比如2009年康乃尔大学教授Hod Lipson 和其博士研究生Michael Schmidt 研发出的Eureqa计算机程序，只要给予一些数据，这计算机程序自己只用几十个小时计算就推论出牛顿花费多年研究才发现的牛顿力学公式，等于只用几十个小时就自己重新发现牛顿力学公式，这计算机程序也能用来研究很多其他领域的科学问题上。这些所谓的弱人工智能在神经网络发展下已经有巨大进步，但这离强人工智能的概念还有一段距离，因为现在对于“强人工智能”的概念定义还没有明确定论。

“卢卡斯的论证似乎无可辩驳。这引起了某种两极分化的反应。某些人就把它当成灵魂存在性的一个近乎宗教式的证明，而另一些人则嘲笑说它不值一提。我认为它不对，但却又十分迷人，所以——而且十分——值得花点时间去驳斥它。事实上，它也是推动我思考本书内容的早期动力之一。我打算在本章中用一种方法反驳它，而在第十七章中再用另一种方法来反驳。”

2·反驳卢卡斯的论证

侯世达教授的反驳指出：我们无法把“哥德尔化”这个操作本身写成一个形式系统（程序）。程序是抓不住“哥德尔方法”本身的，这就说明我们的大脑并不能对任何事情“哥德尔化”（直白来说，人类大脑也并不是总是具有超越性，也有一个限度——人类是有极限的）。

而同时随着程序的越来越复杂，对这个程序进行“哥德尔化”的操作也就变得越来越困难了。而也许复杂到一定程度，跨过某个自然界的模糊的“界限”之后，机器也达到了“人类大脑”的高度。（这是人工智能当中，挺传统的一个思路。）后面侯世达给出了序数命名的例子——“不存在能给每个构造性序数命名的递归相关的标号系统。”

换言之当体量达到一定程度之后，原本根据规则构造的东西当中，会自然而然地生发出某种不规则性。也就是说就算不违反哥德尔的“不完备性”，形式系统也能达到和大脑相当的强度——因为这个复杂性的强度是没有明确上限的。

上述的是反驳卢卡斯论证的其中一个反驳方法，一个思路是：不把“哥德尔不完备性”看作缺陷，因为事实上就算是存在着“不完备性”，系统依旧可以正常运作。另一个思路是：人类的大脑也是“不完备的”，一样受制于哥德尔方法，但由于我们对自己的观察是自指的会产生矛盾，所以看不出来。侯世达在这里用了一个男人和女人比赛的比喻来讲述这个概念。简而言之这里是对卢卡斯论证的一些基础概念定义层面上提出反驳。

“仔细想一想我们人类是否能跳出自身——或者是，计算机程序是否能跳出自身——仍是极为引人入胜的。当然，程序有可能自己修改自己——不过这种可修改性必须首先是该程序中固有的部分，所以不能算做‘跳出系统’的例子。不论一个程序怎样迂回曲折地来到自己外面，它仍然遵循自身的固有规则。对程序来说，逃脱的可能性并不比一个活人决计不服从物理定理的可能性更大。物理定理是个强制系统，什么也逃不掉。然而一个不那么宏大的抱负时可能实现的，那就是：一个人当然可以从他的大脑的一个子系统跳到一个更宽广的子系统中去。我们偶尔也能打破常规。不过这仍然属于人的大脑中各个子系统之间的相互作用，只不过会觉得它很像是完全走出了自身。。与此类似，完全可以想象把部分‘走出自身’的能力嵌入一个计算机程序。

无论如何，弄清楚‘感知自身’和‘超越自身’之间的区别是很重要的。你可以用各种各样的方法来看到自己——用镜子、用照片或电影、用录像带、靠别人的描绘，采用精神分析法等等，但你绝不可能冲破皮肤站到自己外面来（这里不谈那些现代神秘运动和流行的‘超心理学’流派）。”

有一个经典的幽默悖论可以还改上述内容的表述：“上帝能不能造出一块自己搬不动的石头砸自己脚？”

3·框架问题

框架问题是人工智能研究必须要面对的一个问题，至今仍然未得到有效的解决。人工智能最初的范式是符号主义，基于符号逻辑来对外部世界进行表征。框架问题就是内在于人工智能的表征过程的一个难题（那些程序的编写和表达等等，系统的内部构造，这些在前面都已经看到了具体例子。）

丹尼尔·丹尼特举过这样的例子来描述框架问题：我们对机器人发出指令：进入一个放着定时炸弹的房间，将里面的一块备用电池取出来。但是由于炸药是和电池都在一个小车上，机器人推车取出电池的时候也会一块推出炸药。于是，炸药爆炸了……我们可以让机器人推演出一个动作所导致的附带效果，来避免这种事故。于是，机器人进入房间之后，它开始计算推出车之后会不会改变房间墙壁的颜色，会不会改变车子的轮子……它不知道哪些结果与它的目标相关，哪些不相关。就在它陷入无限的计算推演的时候，炸药爆炸了……我们再次对这个机器人作出改进，教他区分哪些附带效果和任务相关，哪些不相关，但就在这个机器人计算哪些相关，哪些无关的时候，炸药再次爆炸了。

当一个自动系统观察外部世界并进行反馈的时候，世界中的某些事物就可能会发生变化，系统就需要对应内部的表征作出更新。但什么会变化，什么不变化，系统本身却并不知道，这就需要设定一个框架来规定变化的相关项。但这个框架一方面本身就过于繁冗，另一方面又依赖于具体情境从而更加繁冗，最终会远远超出系统的计算负荷。这个问题也常常关联着AI表征中的另一个问题，比如常识问题。1980年代人工智能的第二次浪潮中的专家系统和知识表征工程，就是因为无法处理常识表征的问题而最终失败。（目前这个问题的最前沿就是人工神经网络的深度学习等等——自动驾驶系统的研发就是一个例子）

前面所述的框架问题和符号奠基问题，涉及的都是如何在一个形式系统中模拟人类的表征活动。但即便这些表征活动都可以被人工智能所模拟，人类意识是否可以还原为表征过程，也是一个颇具争议的问题（罗杰·彭罗斯的后续论证也主要是集中于此）。

所以这些个问题不仅仅只是关乎于人工智能的研究，其实也关乎人类对自身的探究。（我们可以选择相信，这就是为什么GEB当中会提到“禅宗”的例子。）

五：后记

这一篇章的内容相对来说要短了点，但是内容却一点都不少。查资料的时候看着海量的相关文献（很多还是英文），都快犯心脏病了。而且这篇笔记还牵扯到一些别的内容，需要放到附录系列当中去。卢卡斯教授的《心灵、机械与哥德尔》的学术论文值得一看（笔者会尝试翻译一下），这些问题有时候有没有答案可能不太重要，虽然人们大多数都是抱持着感性的前提跳进来战队的。（可能这也是为什么侯世达教授这一章节写得这么短的原因吧，人无论如何多少都会受到一点自身感性的影响。）

这是一篇笔记，但感觉还是遥遥无期啊~~谁知道后面还能扯出多少内容来，实体书后面有一百多页的注解和目录，要是把里面的书和文献都找来，估计能堆满一书架（很多还没中译）。

感谢一直读到这里的各位，谢谢啦！