大模型与人类的未来 | 基于认知神经科学的大模型论坛精彩回顾

导读

6 月 10 日，智源大会“基于认知神经科学的大模型论坛”召开，本次论坛邀请到了认知神经、脑科学领域非常有建树的专家，深度讨论大模型的能力与局限性，包括对未来人工智能发展方向的讨论。论坛主席是清华大学脑与智能实验室首席研究员，智源首席科学家刘嘉。

图注：从左到右：棕榈资本创始人李厚明（主持人）；清华大学脑与智能实验室首席研究员，智源首席科学家刘嘉；北京大学哲学系教授王彦晶；清华大学医学院生医系副教授，智源学者宋森；北京大学人工智能研究院助理研究员杜凯；北京大学心理与认知科学学院教授，智源学者吴思；中科院自动化所类脑智能实验室研究员曾毅。

以下是论坛精彩回顾。

· 在基于共情的常识推理上，ChatGPT表现得像一个自闭症患者。而感性能力的缺乏，可能使得以ChatGPT为代表的大语言模型（LLM）无法与人类共情以形成连接从而互促进、共进化。——刘嘉

· 理想的AI应能“知之为知之，不知为不知”，有对自己知识边界及可靠性的认识。—— 王彦晶

· 大型语言模型与我们在做梦时的大脑状态最为相似。在梦境中，意识网络（包括默认网络和海马等）被加强激活，而前额叶控制网络不活跃。——宋森

· ChatGPT的成功给了我们极大的启示：通过从底层模拟真实的大脑神经系统，可能是实现人类级别智能的更直接的方法。

—— 杜凯

· 大脑或许像ChatGPT一样是一个超级复杂的生成模型。—— 吴思

· 实现有道德的人工智能需要为人工智能立心，让人工智能明辨善恶，为善去恶。——曾毅

刘嘉：ChatGPT不能做什么

刘嘉在报告《ChatGPT不能做什么》指出，虽然ChatGPT拥有强大的逻辑推理的理性能力，但在缺乏必要的感性能力；因此在基于共情的常识推理上，表现得像一个自闭症患者。而感性能力的缺乏，可能使得以ChatGPT为代表的大语言模型（LLM）无法与人类共情以形成连接从而互促进、共进化。正因如此，以Hinton，Altman等为首的ChatGPT的创造者们发表申明，提出将降低AI引发人类灭绝的风险列为全球优先任务，将其与应对大流行病和核战争的风险并列。

基于此，AGI的演化可以分为三个阶段：

• 先知：向它问问题，它告诉我们答案，然后我们去行动。这是目前ChatGPT扮演的角色；

• 精灵：不仅可以回答问题，还可以执行任务。这是目前刚刚开始的探索，即给ChatGPT配上能够在现实世界里执行任务的“手”和“脚”，以自主完成相应的任务。

• 代理人：不再具体告诉它什么，而是告诉它我们的目标。此阶段AGI将具有自主学习、自主规划和自主决策的能力。此时，让AGI不仅具有理性的刻度，也同时拥有感性的温度，这样它才能与人类共存，而不是危害人类。这是我们期冀的AGI未来发展方向。

王彦晶：ChatGPT能不做什么？

王彦晶的报告探讨了ChatGPT及其他AI生成模型是否 “能不做什么”，即有选择的有所不为的能力。并提出通过整合能力、知识和伦理，辅以逻辑学的手段，来增强这些模型的可靠性。

王彦晶首先指出，理想的AI模型应能明智地选择不回答某些问题，而不是盲目生成答案。理想的AI应能 “知之为知之，不知为不知”，有对自己知识边界及可靠性的认识。然而，ChatGPT往往在不能确认答案可靠性的情况下仍然给出回答，有时这些回答可能是错误的或具有误导性。

然后，他转向伦理层面。强调AI模型的伦理限制通常是通过数据训练来模拟人类价值，但这种方法缺乏对伦理基本原则的理解和对说话者意图的判断，也可能被用户滥用。

为了解决这些问题，王彦晶建议利用逻辑学的手段。通过将抽象的伦理概念转化为可计算的规则，我们可以为ChatGPT设定更明确和负责任的行为准则。这不仅有助于提升AI的知识辨识和伦理判断，还为哲学家在AI与伦理的交叉领域提供了新的研究机会。

宋森：脑启发的通用人工智能架构

“神经系统在演化过程中有几个大的新发明，第一个，具身智能重要的