意识，目前来说一个人类独有的词汇。围绕人工智能与意识产生过许多讨论和争议，前又深度学习三巨头之一Hinton认为“AI有意识，且可复制人类心智。”后有杨立昆、吴恩达认为AI缺乏对世界的基本认识，甚至还不如家猫认知水平。
面向这些争议，6月14日在北京智源大会的意识与通用人工智能中，来自清华大学、北京大学的学者教授从“本源”出发，讨论了意识和AGI的关系。
（回放：https://event.baai.ac.cn/live/789）
刘嘉：意识依赖于全局工作空间理论，即大脑各部分需要协作。当我们将不同模块和任务整合在一起，可能会出现意识的现象。
罗欢：意识包含了大量融合的部分和元认知的能力，这些都是当前AI尚未完全解决的领域
眭亚楠：意识不是孤立存在的片段，而是一个包含时间变量的连续过程，涉及到输入和输出的同步存在。
朱露莎：对外部世界及自身行为的控制感，实际上是自由意志和意识的重要基础。
吴思：无意识状态下的计算能力更高效，有意识状态下个人经常犯傻，但这种傻对群体可能有重要意义。
......
以下是论坛的精彩集锦，请欣赏↓
意识是通向AGI的必由之路
报告嘉宾：刘 嘉 |清华大学心理与认知科学系主任，智源首席科学家
清华大学刘嘉进行了《意识是通向AGI的必由之路》的主题分享。他先从植物人有意识的角度切入：一个骑摩托车事故导致前额叶受损进入植物人状态，虽然失去了自主行动能力，但大脑仍有活动。心理学家通过磁共振实验发现，植物人被要求想象打网球或家中场景时，大脑活动与正常人相似。他表示，这揭示了意识和认知功能的复杂关系。
要了解大脑如何处理视觉信息，可以通过实验观察不同脑区的活动。通过对比在看到面孔和房屋时的大脑波动模式，可以发现前额叶是一个关键区域。该区域在面对视觉信息时会同步波动，尤其是在双眼竞争实验中。当人们看到图像并进入意识时，视觉信息会从视觉区域传递到前额叶，表明前额叶在意识形成中起着重要作用。
基于实验结果，建立了一个关于意识的模型，通过模拟大脑接收视觉输入时的动态交替，揭示了意识的机制。发现大脑在不同状态之间的切换类似于人类实际的观察结果，这种切换在模型中表现为在吸引子之间的滑动。
同时，刘嘉提到，意识依赖于全局工作空间理论，即大脑各部分需要协作，类似于企业不同部门的合作，才能形成整体意识。他表示，在机器人领域，这一理论也适用。如果将全局工作空间概念应用到机器人，使其具备协调多任务的能力，那么机器人可能在执行复杂任务时也会自发地产生类似人类的意识。这引发了一个深思的问题，即机器人在模仿人类多任务处理能力的过程中，是否会自发地产生意识？
接着，他用GPT-4进行了猜想：GPT-4可能采用了混合专家模型，这种模型由多个专注不同任务的小模型组成，它们独立处理任务，最终通过一个“网关网络”进行结果整合，这种模式与全局工作空间理论类似。当然，刘嘉表示，这种架构是否会产生意识仍然未知。
另外，他提到，在今年4月的一次采访中，Hinton表示：“是的，我认为现在的机器已经有了主观感知。” 这一观点强调，当我们将不同模块和任务整合在一起，并通过全局工作空间连接时，可能会出现意识的现象。
最后，刘嘉总结道：脑科学和AGI研究的一个重要热点是对意识的理解。尽管我们尚未完全清楚意识的定义，但研究意识已经迫在眉睫，必须成为关注重点。这代表了未来AGI的发展方向，而不仅仅是模型参数的调整和扩展。我们面临着许多关于意识的问题，例如除了“全局工作空间”理论，还有其他什么理论？它们的神经基础是什么？
当认知神经科学家争论意识理论时他们在争论什么？
报告嘉宾：罗欢 | 北京大学心理与认知科学学院、北京大学 麦戈文脑科学研究所，研究员
北京大学的罗欢带来了《当认知神经科学家争论意识理论时他们在争论什么？》的主题分享。他提到，意识是哲学领域的经典问题，涉及到二元论和一元论的争论。二元论认为身体和心灵是分离的，无法解答意识问题；一元论则认为主观体验源自物质实体。科学家一般持一元论观点。但在30年前，科学界并不敢公开研究意识，因为有些基础问题无法解决。
意识研究的基础是了解大脑的基本功能，如视觉、听觉、学习、记忆、注意力和决策等。这些属于认知神经科学的范畴。目前可以通过非侵入式工具如功能磁共振，测量大脑活动，解码认知任务中脑区的反应。此外，医学病例研究有助于了解不同意识状态，如植物人状态，从而制定治疗策略。这些基础设施的完善，使得我们可以开始研究意识。
罗欢表示，意识问题原本被视为哲学或心理学范畴，但随着多学科的交叉融合，特别是进化论、脑科学、人工智能等领域的发展，我们对意识如何从大脑中产生有了更多假设。CATGPT的出现引发了关于机器是否具有意识的讨论，推动了对意识问题的关注。其实，科学研究意识的脑机制始于1990年，以诺贝尔奖获得者弗朗西斯·克里克和神经生物学家克里斯托夫·科赫主要推动者。
意识理论分为内容和状态两种，其中高阶理论强调意识是一种高级的脑前部表征，是人类独有的，而“载入和预测加工理论”认为意识是通过反馈和前馈的闭合环路形成的。全局工作空间理论认为，意识是大脑多个功能模块协同作用的结果，与之对应的是整合信息理论，其强调高度集成的信息产生了意识。全局工作空间理论强调前额叶的重要性，认为意识是信息被广播到全脑的结果；而整合信息理论认为，意识是一种自发涌现的现象，与大脑后部的复杂网络结构密切相关。
罗欢实验室参与的国际意识项目COGITATE对整合信息理论和全局工作空间理论的部分假设进行了测试和比较。最后，罗欢总结道：意识问题虽然复杂且难解，但多学科交叉研究为意识问题的探索提供了新的视角和方法，我们逐渐接近理解意识的本质。
构建具身的意识
报告嘉宾：眭亚楠 | 清华大学航天航空学院副教授
在报告《构建具身的意识》中，从工程的角度阐述了如何自下而上地构建自我意识，以及如何将其与直观的运动行为相关联。主要探讨如何构建世界模型和自身模型，并在此基础上形成自我意识。
眭亚楠先对世界模型和意识下了定义。世界模型有两种主要理解方式：一种是头脑中对世界的抽象表征，另一种是模拟环境的构建。机器人和具身智能的发展离不开模拟环境的进步。而意识通常被描述为对内外存在的觉察，这种定义虽然模糊，但为理解意识提供了框架。
眭亚楠提到，意识不是孤立存在的片段，而是一个包含时间变量的连续过程，涉及到输入和输出的同步存在。正如强化学习中的循环一样，意识也是在这种循环过程中形成的。
眭亚楠研究组构建了一个复杂的全身肌肉骨骼模型“MS Human 700”，包括了700个肌肉肌腱单元。这个模型比典型的具身智能系统具有更高的解剖精度和复杂度。而研究组的目标是通过神经激活方式控制肌肉，实现对关节力矩和整体运动的精确控制，从而模拟真实人体的运动。
眭亚楠的实验发现：自我意识在这个模型中的体现是通过不断传递和整合来自身体各部分的感觉信息。尽管目前对意识的具体形成过程仍不完全了解，但已知这些信息是本体感觉意识的来源。
眭亚楠提到，相比当前市面上的机器人模型，这种肌肉驱动的人体模型复杂度高出数个数量级，涉及的控制和观测维度极为广泛，挑战巨大。未来，若能有效控制并模拟复杂动力学模型，通过逼近真实人体运动，我们有望揭示运动相关的意识起源，并推动对人体运动机制的深入理解。
可计算的自控感
报告嘉宾：朱露莎 | 北京大学心理与认知科学学院、北京大学 麦戈文脑科学研究所，研究员
朱露莎带来的报告是《可计算的自控感》。她提到，控制感是一种主观感受，指的是人们对于自己主观意图产生的行为导致了某种外部结果的感受。类似于凯撒所说的“我来，我见，我征服”，成年人往往清晰地知道自己在想什么、在做什么，拥有对自身行为和外部世界的控制感，这实际上是自由意志和意识的重要基础。
能判断自己行为的自主性，这种能力是社会责任和道德基础。例如，负刑法责任的先决条件是一个人有辨别和控制自己行为能力，而儿童或者某些精神疾病患者往往一定程度上可免去法律责任。建立具有类似自控感的人工智能，能将自身行为与后果关联，是实现有道德和负责任AI的重要一步。
朱露莎重点讨论了“回顾性控制感”的可计算性。与前瞻性地预判自己的行为将导致什么结果不同，回顾性控制感是指当我们做出手指运动的行为，同时看到灯亮这样的外部变化，我们的脑便会快速推断灯亮是否由手指运动导致。心理学实验表明，这种回顾性控制感可能是一种脑补，脑补自己的行为导致了外部变化。就像婴儿会渐渐学习到自己行为对外界的影响，回顾性控制感可以通过学习获得与提升，进而形成更强大的智能。
在计算上，回顾性控制感可以通过归因算法，建立行为与外部结果的关联来实现。但在生物智能中，这种归因计算有时会出错。著名心理学家斯金纳的实验显示了这一点：鸽子学会了按键以获得食物，但当斯金纳随机给予食物时，本来可以不劳而获的鸽子，却仍试图通过搓按键来获得奖励，即使此时按键与食物之间已无因果关系。现代神经科学研究表明，这种“迷信”行为的产生，是脑补控制感时采用了一种基于稀疏事件的归因算法，因而出现了系统性偏差。
此外，控制感所依赖的归因，区别于一般意义上的归因，是一种关于自己行为结果的归因，这种自我归因也存在着稳定且有趣的偏差。例如，科学家发现，如果一件事结果很好，人们倾向于归因给自己，而如果结果不好则更可能归因给外界。这种错误的控制感也解释了社会中的一些问题，如富二代往往将成功归因于个人努力，而外界则认为他们的成功归因于家庭背景。
最后，朱露莎强调这种可学习、可计算的控制感有可能通过归因算法在人工智能中实现，从而为建立负责任的AI打下基础。然而，生物智能中的这种归因控制感存在系统性偏差，对于未来希望具备自我控制感的人工智能，我们需要思考它是否应具有与人类一样的偏差。
意识是可计算的吗？
报告嘉宾：吴 思 | 北京大学心理与认知科学学院院长、 教授、智源学者
北京大学吴思在《意识是可计算的吗？》的报告中先对意识的定义进行了探讨：从哲学的角度来看，意识被认为是一种主观体验的现象；在神经科学领域，意识被视为大脑活动的产物。
然后，他阐述了可计算的涵义：在认知科学早期理论中，存在“认知即计算”的观点，即认知过程类似于计算机的符号加工系统，是对信息的加工和处理。该理论认为，大脑通过感官系统接收输入，经过加工后产生行为反应。具身认知理论提出人的身体结构、活动方式、感觉和运动体验，决定了个体如何认识世界。因此，计算在此语境下，指的是利用计算建模方法模拟和解析主观经验背后的机制。
随后，吴思讨论了智能涌现：涌现指的是复杂系统通过自组织产生出与组成部分完全不同的复杂行为或功能。其特点在于无法通过局部性质预测整体特性，体现出“整体大于部分之和”的特征。在生活中，如鸟群的集体飞行、蚂蚁的集体觅食行为，甚至包括现代的大型语言模型，展示出似乎具备意识的功能。
吴思提到，在神经计算建模中，有一种被称为“吸引子网络”的观点。这种观点认为，大脑通过构建一个复杂的网络来接受外部输入，同时结合内部的知识和记忆，使得网络状态不断演化，最终达到一个稳态。这个稳态就代表了一种涌现的计算结果。
涌现现象在数学上可以通过吸引子网络的概念来解释。有学者发现，当一个神经网络在处理数据时，随着数据量的增加，网络的误差会逐步减少，直到某一临界点，误差会急剧下降，网络的能力显著提高。这种现象类似于禅宗中的“顿悟”。
其实，研究表明，大脑在无意识状态下能够高效整合多种感知信息，进行优化计算，这可能是生物长期进化的结果。而有意识状态下人的计算能力并不高效，这可能在个人层面上无用，但对群体有重要意义。
吴思认为空间认知对人类至关重要。人类通过身体感知上下、左右、高矮等空间关系来理解环境。以开车为例，运动信息可以帮助大脑迅速建立城市的整体认知。大脑通过具体的环境地图和抽象的度量地图两种方式处理空间信息，使大脑能够高效处理空间和抽象关系。由于进化的保守性，这种大脑的神经结构既可用于实际导航，也可用于表征复杂的人际关系。
最后，吴思认为意识是可以通过计算实现的。近年来的大模型研究表明，复杂系统可能表现出类似意识的特征。我们应从具身认知和空间认知入手，利用已有的实验证据和神经基础，构建认知大模型来深入理解意识的本质。
圆桌讨论：意识与通用人工智能
在圆桌讨论环节，棕榈资本创始人李厚明先发出疑问：在通用人工智能（AGI）中，“G”到底代表什么？
刘嘉表示“”G”除了代表“general”，意指通用，即具备在开放环境中应对各种任务的能力。还有另一层含义，即“生成式”（generative）。眭亚楠则对AGI有更深的理解：AGI的目标是具备解决所有我们能够描述并有路径解决的问题的能力，而在实现AGI的过程中，意识可能早已产生。尽管AGI可能无法立即解决如宇宙寿命或地外生命等复杂问题，但至少应能应对人类现有知识和能力范围内的大多数问题。
朱露莎不认同“眭亚楠将AGI定义为包含人类所有知识的一个综合集合”的观点，他表示：如果个体只熟悉自己专业领域，对其他领域知之甚少，是否意味着每个人都不具备通用智能？因此，朱露莎认为AGI不一定需要能够完成所有任务，而是应该具备自主学习和适应不同任务的能力，不依赖海量数据，而是主动寻找所需知识并完成学习过程。
对此，吴思表示认同：真正的智能在于学习和适应能力，这可能是人类与其他生物最大的区别。
杜凯表示（场外嘉宾）：优秀的AGI应该具备知识外推的能力。目前人工智能模型，例如GPT尽管在某些专业领域表现强大，但在知识外推方面明显不足。
同时杜凯提问道：如何看待目前AGI的两种观点，一是以图灵为代表的学者认为AGI不需要与真实世界交互，支持者包括OpenAI等大模型流，认为可以通过对海量数据进行压缩和学习实现智能；二是主张具身认知，认为AGI需要与真实世界进行交互，才能通过这种互动训练出通用智能。
眭亚楠表示，两种观点实际上并不矛盾。具身认知强调与真实世界交互，因为当前还没有一种完美的压缩表示方法，现有的模拟器还不够完美，无法完全替代真实世界的交互。
而压缩是非常重要的。我们能够在高维复杂世界中有效行动，是因为这些问题大多可以通过某种方式被压缩并呈现为简化模型。那些我们目前无法解决的问题，要么是还没有找到合适的压缩表示方法，要么是这种方法尚未被发现。
朱露莎认为人类大脑确实在进行信息压缩。问题在于我们压缩的是什么，以及在面对现实问题时如何有效地解压缩。仅仅进行压缩只是故事的一半，还需要在新的环境下生成一个可以使用的新表示，并在实际应用中加以利用。
吴思表示，从知识表达的角度来看，压缩是核心，它不仅是简单的数据压缩，而是抓住了最本质的结构，然后通过采样生成了新的表示。然而，智能不仅仅在于压缩和知识表征。我们的智能体现在与环境的互动和适应能力，这是最基本的能力。
对于学者们“除了压缩之外，还有其他关键因素影响AGI”的观点，李厚明问道：这里的“其他因素”是什么？
刘嘉认为：实现AGI还需要解决是否需要通过身体和自身体验学习的科学问题；未来的发展方向应结合脑科学和人工智能，深入理解生物大脑的工作原理。
随后，又回到了意识话题。李厚明问道：人类的学习或意识与机器的意识还有哪些不同之处？
罗欢认为意识是复杂且多维的。意识包含了大量融合的部分和元认知的能力，这些都是当前AI尚未完全解决的领域，但未来可能会有所突破。
刘嘉认为人类有一种AI完全不具备的功能——死亡意识。AI没有死亡意识，所有的进步都是人类推动的，未来即使AI超越人类的智商，也没有内在动力继续进化。
李厚明问道：是否有可能通过强化学习让AI具备类似于人类的死亡意识，从而学会自我内卷？
眭亚楠认为这涉及到伦理问题：人类作为一个种群，拥有相对固定的生存周期。如果这个周期大幅度变化，智能演化和社会形态都会发生巨变，而目前AI缺乏这样的生存周期。构建一个奖励系统来模拟人类的生存周期和相关行为是可能的，但是否要这样做仍需考虑。
朱露莎认为不太可能通过现有的基于人类反馈的对齐手段使AI具备和人类一样的死亡意识。因为目前大部分人类反馈手段都基于人们的主观报告，报告的都是人们能够意识到的感受。然而，死亡意识中可能有很大一部分是潜意识的，深刻的影响我们的行为，然而我们未必能清楚的报告出来。这一部分死亡意识目前是无法基于主观反馈来实现人机对齐。
杜凯认为：目前AI无法实现人类大脑中的许多功能，因为这些功能没有明确的损失函数。例如人类在处理爱、死亡、悲伤等情绪时缺乏损失函数。
每个人都承认AI有巨大的潜力，对此李厚明问道：如何看待AI意识发展可能超越人类能力的前景?我们是否应该是否应该减缓AI发展？
朱露莎认为除了加速或减速AI发展外，还有一种可能性是利用AI来实现人类之间知识的有效对齐。
对于朱露莎的观点，罗欢表示：AI可作为工具促进人类对齐，但人性决定了完美对齐可能无法实现。人性与死亡意识相关，驱使人们追求独特性和新信息。每个人既希望与他人相似，又渴望与众不同，这种矛盾反映了人性的复杂性。这种追求独特性的倾向源于死亡意识和潜意识，导致人们即使在资源充足的情况下也会认为资源有限，从而影响行为。人性特征可能是完全对齐难以实现的根本原因。
刘嘉表示：人类完全对齐是不可能的，社会多元化是好事。更大的愿景是人机对齐，甚至将人类意识上传至机器，获得永生并扩展认知能力。与其限制AI发展，不如提升人类智能。
谈到死亡与永生，李厚明追问：既然人类社会依靠死亡实现新陈代谢，那么AI系统如何实现类似的新陈代谢和进化过程？
吴思表示：死亡意识在进化中的作用值得深思。模拟游戏显示，具有死亡机制的群体在竞争中更有优势，但死亡如何影响主观意识仍是个谜。对于当前AI的担忧可能被夸大，因为现有AI仍是混合智能，需要人类参与才能发挥作用。
- 点击“查看原文” ，观看完整大会视频回放 -
Llama2、王兴兴、王鹤、卢宗青、邵林、高阳等专家共论具身前沿
Llama2、百川、ChatGLM、MiniCPM、Llama作者等共论LLM关键问题
Llama2、3作者中国首讲！LLM前世今生，AGI是我们这代人的哥白尼革命
GPT-4o、SAM、DiT、DCN、SegGPT作者共话多模态模型前沿进展
4
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
