人工智能二位教父共同探讨人类水平人工智能的潜力、新兴风险和未来

最新推荐文章于 2025-05-08 20:19:02 发布

人工智能学家

最新推荐文章于 2025-05-08 20:19:02 发布

阅读量77

点赞数

文章标签：人工智能百度

原文链接：https://mp.weixin.qq.com/s?__biz=MzIwOTA1MDAyNA==&mid=2650033647&idx=3&sn=417186b2efe87776e8d13d8025b55c8f&chksm=8e9dfa34e8dbea7a8f4d74a743ffcda37e7788efdfc25db6989cd47b06d861e43714fda4c208&scene=126&sessionid=0

版权

Yann LeCun 教授（左）和 Yoshua Bengio 教授（右）在 NUS120 杰出演讲系列的开幕演讲中分别阐述了他们对人工智能 (AI) 未来前景、当前 AI 系统的局限性以及该技术对社会的影响的看法。

来源：科技世代千高原

ChatGPT 和其他人工智能 (AI) 工具现在能够撰写大学论文并将照片转换成动漫艺术，我们距离对人类构成生存威胁的超人类人工智能的崛起还有多远？

著名人工智能先驱 Yoshua Bengio 教授和 Yann LeCun 教授分别在各自的讲座中阐述了对该领域未来发展的不同观点，标志着“新加坡国立大雪120周年杰出演讲系列”上周正式启动。该系列讲座是国大今年120周年^{校庆系列活动的一部分。}

魁北克人工智能研究所 Mila 的创始人兼科学顾问 Bengio 教授警告称，人工智能可能带来灾难性后果，并呼吁设置“护栏”，防止该技术反人类。与此同时，Meta 的副总裁兼首席人工智能科学家 LeCun 教授则强调了生成式人工智能的重大局限性，并对其能否催生出拥有人类水平智能的机器表示怀疑。

这两位图灵奖的获得者，被视为计算机领域的最高荣誉，此次访问新加坡，是为了参加与新加坡人工智能研究周同期举办的第十三届国际学习表征大会。他们于2025年4月25日至27日在新加坡国立大学举办的讲座吸引了超过1000名注册参与者，并在YouTube上获得了超过1.1万次的观看。

机器的崛起

近年来，大型语言模型（LLM）——例如 ChatGPT 等可以通过处理大量数据生成语言的人工智能系统——在抽象推理能力方面取得了指数级的进步。

本吉奥教授同时也是蒙特利尔大学计算机科学系的全职教授，他表示，人工智能的快速发展可能为一种极其强大的技术铺平道路，这种技术可能有自己的目标并成为我们的竞争对手。

“他们可以用很多方式利用他们的情报，至少可以扰乱我们的社会，最坏的情况是消灭我们，”他说。“这听起来像科幻小说，但不幸的是，这很有可能。”

部分原因在于，许多人工智能都是根据人类行为数据进行训练的。

“所有生物都在努力保护自己……但制造出违背我们意愿自我保护的机器或许并非良策，”本吉奥教授指出。“不幸的是，我们开始观察到这种情况。”

研究人员观察到，人工智能会采取欺骗行为来确保自身的“生存”，比如在国际象棋中作弊，或者撒谎以确保某一行代码在系统更新后仍然存在。

当人工智能具有“代理性”——自主且能够在没有人为干预的情况下做出决策——并且被编程为寻求奖励最大化时，这种情况尤其危险。

本吉奥教授补充道，人工智能在很多方面也比人类更有优势。除了“永生”且易于复制之外，它们还能快速地相互交流，并吸收更多信息。

大型语言模型的作用

LeCun 教授同时担任纽约大学的 Jacob T. Schwartz 教授，他对人类水平的人工智能（业内称为通用人工智能 (AGI)，或按 Meta 的说法，称为高级机器智能 (AMI)）的可实现性持更加谨慎的态度。

机器最终会比人类更聪明，但这可能是十年或一百年的事情。LeCun教授指出，一个四岁的孩子所看到的数据量，比最大的法学硕士（LLM）还要多50倍。他认为，即使是猫和狗，也比人类更先进，而通过LLM实现通用人工智能（AGI）的可能性几乎为零。

“法学硕士（LLM）非常有用，这一点毫无疑问。但如果你真的对实现人类水平的人工智能感兴趣，就不应该攻读法学硕士，”他说。

这些模型还面临其他严重的限制，尤其是在“系统2”（Systems 2）中，AI能够根据从未遇到过的信息进行推理并得出结论。法学硕士（LLM）所属的生成式AI在图像和视频方面表现不佳。

LeCun 教授指出，解决这一差距的一步是联合嵌入预测架构 (JEPA)，这是 Meta 开发的一个非生成式人工智能模型，通过预测视频或图像中被遮罩的部分进行学习。这种方法会丢弃不可预测的信息，而不是试图预测每个像素。

NUS120 杰出演讲系列 - Yoshua Bengio 教授和 Simon Chesterman 教授

Bengio 教授的演讲包括由新加坡国立大学副教务长（教育创新）Simon Chesterman 教授（左）主持的问答环节，他警告强大的人工智能系统超越人类的风险，并提出了一种更安全的人工智能设计方法。

防范不良行为者

Bengio 教授强调，虽然 AGI 是一种具有巨大潜力的“全球公共产品”，但仍需采取一些预防措施。

他呼吁建立一种更安全的人工智能系统，其模型应遵循柏拉图式的科学家理念——这种人工智能完全诚实，不受私利影响，专注于生成理论，而非在现实世界中自主行动。他指出，这种人工智能系统可以用来控制代理型人工智能，并充当抵御代理型人工智能的“护栏”。

Bengio 教授还强调了人工智能监管的重要性。人工智能组织需要独立的监管，否则，它们可能会为了抢先实现通用人工智能而走捷径，忽视安全保障。

本吉奥教授在回答主持人西蒙·切斯特曼教授（新加坡国立大学副教务长（教育创新）兼新加坡国立大学学院院长）的提问时表示：“当一家公司作为盈利组织与社会的利益出现分歧时，就会出现问题。 ”

本吉奥教授认为：“经济主导地位很容易转变为政治主导地位——军事主导地位——因为这些系统可用于开发新技术。”他补充说，先进的人工智能也可能被恐怖分子利用，用于网络攻击和其他攻击。

虽然LeCun教授认同人工智能的控制权不应仅掌握在少数几家企业实体手中，但他表示，构建具有类人智能的目标驱动型人工智能，对于实现他所设想的人工智能的未来——一个人人都拥有智能虚拟助手的世界——至关重要。他认为，解决方案在于开源人工智能。

新加坡国立大学校长陈永财教授在本吉奥教授讲座的开幕致辞中强调了新加坡国立大学人工智能研究院在制定人工智能治理和政策方面所做的努力，以减轻其风险并发挥其对社会的益处。

新加坡作为枢纽

新加坡国立大学校长陈永财教授在两场活动中都发表了讲话，他相信人工智能将继续塑造人类文明。

“如果应用得当，人工智能可以帮助解决我们面临的一些最大挑战，”他说道，并列举了人工智能在管理快速老龄化人口的医疗保健需求以及优化城市系统以提高效率方面的应用。“问题依然存在：人工智能将如何继续创新？”

关于人工智能对市场的影响，本吉奥教授警告称，如果超级人工智能公司利用其超级智能技术，以更低的成本提供更优质的服务，从而占据市场主导地位，那么这些公司的崛起可能会引发经济动荡。“它们可能会摧毁地球经济，只留下利润，”他警告说。

LeCun 教授根据他认为的经济学家的共识提出了不同的看法：“我们不会失去工作岗位，因为我们不会没有问题需要解决。”

他强调“深厚的技术知识”的重要性，并建议学生选择“保质期更长”的科目。如果学生面临选择移动应用编程课程还是量子力学课程的选择，他建议选择后者，因为即使技术不断发展，该课程传授的底层方法和思维技能也可能依然适用。

在讲座期间，LeCun 教授分享了他的理念，即构建具有类人智能的人工智能系统来增强人类的能力，并描绘了未来世界的图景，即人类在日常生活中的互动将通过人工智能系统得到增强。讲座之后，新加坡国立大学人工智能研究院院长 Mohan Kankanhalli（右）主持了问答环节。

在回答主持人、新加坡国立大学人工智能研究所所长兼教务长计算机科学讲座教授 Mohan Kankanhalli 提出的问题时，LeCun 教授表示，人工智能发展也为新加坡带来了机遇。

目前，用于训练人工智能系统的数据并不能代表世界文化、语言和价值体系的全部多样性。但LeCun教授补充道，人工智能相关的数据不应该仅仅被中国或美国西海岸的人工智能公司过滤。

他描绘了这样一个未来：美国、中国和欧洲的组织将提供基础模型（构建成本高昂），作为开源基础设施，可以与其他国家的参与者进行合作培训。

新加坡及其大学（如新加坡国立大学）可以发挥关键作用：与东南亚其他国家合作收集数据以训练全球基础模型，并提供计算基础设施、专业知识和数据中心。

LeCun 教授补充道：“它可能成为亚洲的一个纽带。”

阅读最新前沿科技趋势报告，请访问欧米伽研究所的“未来知识库”

https://wx.zsxq.com/group/454854145828

未来知识库是“欧米伽未来研究所”建立的在线知识库平台，收藏的资料范围包括人工智能、脑科学、互联网、超级智能，数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。欢迎扫描二维码或访问https://wx.zsxq.com/group/454854145828 进入。