颜水成&刘嘉：机器学习与认知神经的火花碰撞

我们习惯于用自己熟悉的工具来解决面临的问题。

例如，当想要去探索强人工智能的时候，计算机科学家们想到最直接的方式，便是创建知识图谱（计算机科学家所理解的“常识”），从而将常识与深度学习进行融合，来创造一个在他们看来有认知的智能体。

但是这种“认知”与神经科学家们所理解的“认知”是同一个概念吗？

知识图谱+深度学习，或许能够解决人工智能所面临的困境，但显然不是唯一解。

正如智源研究院“认知神经基础”重大方向的首席科学家刘嘉教授所说，科研领域的重大突破往往产生于交叉领域。因为在交叉地带，一个未知的领域，最可能产生新的东西。

因此，不同学科背景的学者，坐在一起，用着彼此可能并不互通的术语，进行探讨，可能会产生各种意向不到的事情。

在智源研究院，作为机器学习的领军人物颜水成，遇到了认知神经科学的领军人物刘嘉。于是，他们相约在一个午后，共同探讨了大量关于人工智能和生物智能的认知神经基础问题。

正如颜水成所说，这些问题可能并不只是代表他自己，可能许多做机器学习的人都或多或少有过类似的疑问，也希望能够从认知神经科学的研究成果中，获取灵感，从而设计更优的算法。刘嘉教授对此一一作答。

交叉，起于思想的碰撞，这只是开始。

颜水成：依图科技 CTO，智源“机器学习”重大研究方向首席科学家

刘嘉：清华大学教授，智源“人工智能的认知神经基础”重大研究方向首席科学家

文：智源社区 贾伟

一、GPT-3剖析

颜水成：今天我更多的是以一种小白的身份向刘嘉老师请教认知神经科学的一些问题，这些问题不只代表我自己，可能许多做机器学习的同学都很想知道，也希望能够从认知神经科学的一些研究成果中吸取灵感，从而能够设计出更好的机器学习算法。

我的第一个问题是，从认知神经科学的角度，GPT-3与人脑的思维方式一致吗？

刘嘉：我也看了GPT-3，非常了不起。我觉得可能是深度学习巅峰式的成果。

但我也看到一个报道说，如果问它“蜘蛛有几只眼睛”，它会正确地回答“8只”；而如果问它“脚有几只眼睛”，它会回答“两只”。而人类，尽管大部分人不知道蜘蛛有几只眼睛，但绝对不会出现脚有两只眼睛这样明显的错误。由此可以看出，GTP-3和人的思维，在本质上是不一样的。

GTP-3的推理方式更多的是一种概率上的连接，可能在它训练的数据中，出现了“脚”与“眼睛”的某种关联，它就学习出两者之间一种概率链接，在这个过程中，它并没理解“脚”和“眼睛”是什么。而人类则是先理解后推理。

颜水成：那么你认为，如果将GPT与非常庞大的知识图谱进行融合，这会不会与我们大脑的运行机制越来越像？

刘嘉：肯定会越来越像的。但有一个问题是，知识图谱能够做到什么程度？举个简单的例子，当我们看到一个人不小心踩到一颗钉子，那么知识图谱会产生“他会流血”、“会受伤”，但我们人的第一反应则是自己感到疼，这是一种共情能力，是基于我们对他人心理的一个推理，猜测他现在的感受。

二、System 1 & System 2

颜水成：最近大家认为感知的问题已经做得差不多了。Bengio等人提出人工智能将从System 1 转向 System 2。我对这方面也做过一些了解，System 1大概相当于我们的潜意识，反应比较快，但不需要做推理；而System 2相当于显意识，需要一个推理、判断的过程。但我了解的这些只是一些皮毛，你能不能给我们分享一下，大脑内部是否有这样两套不同的系统？这对我们以后研究认知，会非常有价值。

刘嘉：其实Bengio可能受丹尼尔·卡尼曼的《思考，快与慢》的启发。他其实是在说，我们人类有两套系统，一套我们称之为皮层下系统，对应我们脑干等中枢系统；一套是皮层系统，对应我们的大脑皮层。这种结构归因于我们人类的大脑是从低等动物一点点积累起来的。前者比较古老，主要掌管呼吸、心跳等比较初等但与我们生存有密切关系的活动，所以反应比较快，例如我们看到一个老虎出现，它会立刻加强肾上腺素，做出应激反应；而后者，更多的是去理解到底发生了什么事，然后做出推理和判断，例如我们发现原来这个老虎是人扮的，这时皮层系统就会告诉皮层下系统，从而调节原来的紧张。

颜水成：所以，在物理上这是两套完全独立的系统，是吗？

刘嘉：对，完全独立，但是它们之间有交互。

颜水成：我讲System 1和System 1的时候，喜欢讲开车的例子，这是我亲身体会。如果在一个我们熟悉的路，往往不需要做推理，到了某个地方该怎么打方向盘，自动就完成了。而到了一个相对陌生的路，就需要特别小心，去想怎么打方向盘，比较费时。但有意思的是，熟悉了之后，我又能自动完成了。这可以看成从System 1到System 2的转换吧，你能不能从神经科学的角度做一个解释。

刘嘉：这是特别好问题。在我们学习的过程中，最开始我们不知道怎么去表征外部的世界，在这种情况下，大脑神经的反应模式基本上就是，让与它相关区域的所有神经元全都活动；但第二次可能就只有40%的神经元活动，因为其他的神经元活动已经没有任何意义了；经过反复的学习之后，最终可能只有4、5个神经元去反应，这就是所谓的Sparse Coding。经过Sparse Coding之后，系统会集中在一个特定的任务上，变得非常精准且高效。在这个过程中，开始时需要更多的意识参与，然后逐渐减少而变得自动化。

在这个过程中，其实我们还需要一个警觉系统。比如当我们学会走路后，我们根本不去关心应该先迈哪只脚，以及应该迈多远，完全可以一边走路一边脑袋里想着自己的事情。直到我们突然踩了一个坑，这时候我们的警觉系统就开始起作用了，它会快速启动System 2，对 System 1进行干涉，让你保持平衡而不会摔倒。然后你的视觉注意到原来前面是个大坑，于是马上反应过来改变路径。这个警觉系统就在我们大脑内侧，叫“前扣带回”。