How FAR ARE WE FROM AGI?（ICLR AGI Workshop 2024）概览

关注B站可以观看更多实战教学视频：hallo128的个人空间
How FAR ARE WE FROM AGI?官网

How FAR ARE WE FROM AGI?（ICLR AGI Workshop 2024）

该研讨会将于2024年5月11日在奥地利维也纳以混合模式举行，作为 ICLR 2024年会议的一部分。查看 ICLR.cc 以获得面对面/虚拟的研讨会注册，以及我们的 ICLR 官方研讨会页面以查看虚拟注册者的实时流。

AGI 的历史背景及其重要性

构建人工通用智能(AGI)已经成为人工智能研究领域的一个决定性挑战。自计算时代开始以来，实现人工智能的愿望深刻地塑造了人工智能研究人员的愿景和使命。广义地说，AGI 是指能够完成人类能够完成的任何智力任务的机器。在过去的几十年里，我们目睹了狭义人工智能的巨大进步，系统在特定的任务中表现出色。尽管如此，创建一个具有广泛和灵活认知能力的 AGI 系统的典型目标仍然难以实现。

人工智能的最新进展: 走向人工智能？

最近在大型语言模型(LLM) ，如 GPT-4和 LLama-2，提出了一个有趣的转折在这种叙述。这些模型显示了非凡的能力，有时在特定领域与人类的能力相当，甚至超过人类的能力，暗示着图灵测试的某种形式正在通过。此外，这些模型的范围不再仅限于自然语言处理(NLP)。我们正在看到这些模型扩展的有希望的迹象，如人工智能代理利用工具，从外部数据库检索，显示推理能力，通过编写代码竞争复杂的任务，多模态学习与文本和图像等。

未来之路: 挑战与限制

然而，尽管这些进展很有希望，但目前的 LLM 和真正的 AGI 之间的差距仍然很大。值得注意的限制包括比例定律的报酬递减和潜在限制，缺乏强大的推理能力，幻觉和事实的不准确性，缺乏常识推理能力，以及许多其他限制。此外，随着我们越来越接近 AGI，解决安全，道德和监管影响的关键问题变得至关重要，例如，将 AGI 的价值观与人类的多样化信念集合相一致，导航道德困境，确保 AGI 能够做出道德决策，并解决生成性 AI 的安全风险。

工作坊范围及主题

这个研讨会的目标是成为一个大熔炉的想法，讨论和辩论，我们接近 AGI。我们邀请各方就一系列议题提交意见，包括但不限于:

• 人工智能研究的前沿: 例子包括人工智能代理、具体人工智能、基于检索和工具增强的 LLM、知识增强的人工智能和多代理人工智能。

• 作为灵感的经典 AGI 尝试: 深入研究历史方法，如专家系统，符号 AI，I 型和 II 型推理的见解，可以指导 LLM 研究进一步。

• AGI 的跨学科见解: 从心理学、社会学和神经科学等领域进行比较，以启发和指导 LLM 向 AGI 的发展。

• LLM 的基本局限性: 分析 LLM 的内在能力或缺乏内在能力可能会阻碍其向 AGI 的发展。这包括关于推理、计划等的讨论。

• LLM 和 Foundation 模型的实际局限性: 解决系统约束、计算成本、数据获取障碍和隐私问题等外部挑战。

• AGI 开发中的安全、道德和规范: 探索道德、安全和规范问题的复杂性，这些问题将塑造 AGI 的发展。

• AGI 的经济和社会影响: 探索 AGI 可能引发的社会、经济和日常生活的潜在变化。

如果您有任何问题，请通过电子邮件联系我们:
agiworkshop@googlegroups.com
How FAR ARE WE FROM AGI?官网