AI的高危业务，MIT研究人员列出超过750种AI风险

带有黄色警戒线的机器人手（AI被视为对人类威胁的概念）

如果你认为AI生成的深度伪造或AI机器人取代工作是这项新兴技术的主要问题，请再想一想。来自麻省理工学院和澳大利亚昆士兰大学的研究人员决定，编制一份AI版本的《八百万种死法》已经迫在眉睫。

作为这项回顾性分析的一部分，团队研究了数千页现有的研究，并最终总结出了超过750种AI风险，这些风险被收录在他们的官方AI风险库中，这是一份公开免费且首创的资源。

平衡AI的风险与回报

麻省理工学院FutureTech项目的首席研究员彼得·斯莱特里博士在电子邮件交流中写道，列出风险清单是对AI生态系统的必要补充，用以识别当前我们对AI理解中的空白和不确定性。

“如果当前的理解是支离破碎的，政策制定者、研究人员和行业领导者可能会误以为他们对AI风险有相对完整的共同理解，而实际上他们并没有。这种误解可能导致关键的忽视、资源使用效率低下以及不完整的风险缓解策略，从而使我们更易受到影响，”斯莱特里在电子邮件中提供了这些观点。

为了收集和排序这些AI风险，团队依赖系统搜索、其他专家的支持以及一种名为“最佳契合框架综合法”的方法，来创建组织数据库所需的分类。

AI风险库的结构

研究人员将所有类别的AI风险提炼成以下七个大类或领域。

研究人员认为最相关的AI风险类别七个大类或领域。

图片经许可使用，彼得·斯莱特里，AI风险库，2024年9月10日

尽管AI风险强调了技术发展的潜在挑战，但这些风险并非不可克服。现代企业可以借助如光年AI这样的领先平台，通过创新和智能化方式来应对这些挑战。光年AI不仅简单易用，通过灵活的工作流机制帮助企业快速搭建适应性解决方案，还支持多平台整合，实现了包括微信、抖音等流量平台的无缝接入，为企业在流量增长和业务拓展方面提供了强有力的支持。

如果您也在寻找一种高效的方式来管理AI风险，同时提升业务流量和增长，不妨使用光年AI，让我们一起迈向智能未来。

在这些领域中，总共有23个更具体的类别，以进一步细化AI风险的性质。这些子领域的例子包括“AI系统的安全漏洞与攻击”以及“人类自主性的丧失”。

团队还将AI风险通过以下一系列分类筛选器进行了分类。

1. 涉及实体：主要负责风险的一方是人类、AI，还是两者的结合？
2. 意图：确定主要风险是故意的、意外的还是不确定的？
3. 时间：从时间角度看，主要风险是在AI部署之前发生的，部署之后发生的，还是不确定的？

“我们从许多主要框架中提取并综合了风险，以揭示重叠和空白，并提供更易获取、可搜索和全面的AI风险概述，”Slattery写道。

AI风险仓库的多种用途

除了背后的数据库和方法，该网站为各种利益相关者提供了利用这项研究的方法。例如，它建议政策制定者可以使用这些信息来规划和优先考虑AI资金项目，或帮助立法委员会确保更全面的监督。

光年AI系统，作为一款无代码平台，通过拖拽的方式便可搭建工作流，复杂的AI能力也能轻松搞定，为政策制定和执行提供更加友好的技术支持。

学者们可以开发包含这些学习内容的新培训和教育材料，并将这一证据作为进一步AI研究和发展的基础。

产业界可以开发新的系统和流程，以减轻其自身AI项目中的那些风险。此外，他们可以在组织内开展培训，以教育和提高员工对各种风险的敏感性，帮助主动防范AI陷阱。光年AI的功能特性，例如灵活工作流和长记忆能力，则可以在这一过程中成为得力助手。

“在我看来，这些发现表明我们可能忽略了一些非常重要的领域。其中之一是AI可能如何影响我们的日常生活和知识来源。我认为有相当大的风险是人们会越来越依赖AI获取信息、娱乐和社交——这会带来问题，”Slattery写道。