为什么加州的AI安全法案在硅谷引发了争议

硅谷似乎一致认为人工智能是未来。然而，一项即将推出的法案可能会主导AI的发展，却凸显了科技领袖们在如何将这项技术推向世界的问题上存在的深刻分歧。

由参议员Scott Weiner七个月前在加利福尼亚提出的AI安全法案SB 1047，本周将在加利福尼亚州议会进行投票，但并非所有在AI竞赛中有立场的人都持相同意见。

这个故事仅对Business Insider订阅者开放。成为Insider，立即开始阅读。已有账号？登录。
该法案的核心目标是通过州参议院在五月份通过的两党投票，引入一系列措施，至少在理论上，可以控制最强大AI模型可能带来的风险，比如用于制造危险武器或网络攻击的潜力。

这些措施包括强制在加利福尼亚州运营的公司允许第三方对其模型进行安全测试，并推动它们包含一个“紧急停止开关”，在必要时可以关闭其模型。

许多在AI竞赛中有利益牵涉的人已经公开表达了对该法案的不满。

在上周给Weiner参议员办公室的一封信中，Sam Altman的OpenAI明确表示强烈反对该法案。A16z等风险投资公司的领袖和前谷歌科学家Andrew Ng等领先的AI科学家也表达了担忧。

相关新闻

保护创新和开源的努力仍在继续。我相信，如果任何人都可以进行基本的AI研究并分享他们的创新，我们都会受益。目前，我对加利福尼亚州提议的SB-1047法案深表担忧。这是一部包含多部分的复杂法案…pic.twitter.com/VUpKh4vhrg

— Andrew Ng (@AndrewYNg) 2024年6月6日

“艰难的决定”

其他人似乎支持该法案。

在周一的一则社交媒体帖子中，去年创立AI公司xAI并与OpenAI的Altman长期竞争的埃隆·马斯克表示，尽管“这是一个艰难的决定，会让一些人不满，”但他认为“加利福尼亚州可能应该通过SB 1047 AI安全法案。”

“20多年来，我一直倡导对AI进行监管，就像我们对任何可能对公众构成风险的产品/技术进行监管一样，”马斯克在X上写道。

埃隆·马斯克一直在强调AI带来的风险。

Apu Gomes 经由 Getty Images

同时，OpenAI 的竞争对手 Anthropic 似乎在上周成为该法案的支持者，其首席执行官 Dario Amodei 在写给加州州长 Gavin Newsom 的信中 说，“收益可能大于成本。”

该法案因多种原因被证明是具有分歧的。

为什么硅谷对 SB 1047 法案意见不一

首先，是关于其对创新的影响问题。

反对 SB 1047 的阵营认为，该法案严格的措施可能会阻碍未来模型的发展，这在美国面临愈发强大的中国 AI 力量时可能极具危险性。

至少，这是 OpenAI 首席战略官 Jason Kwon 在公司写给参议员 Wiener 的信中提出的观点。Kwon 说，该法案不仅会“减缓创新的步伐”，还可能导致“加州世界级的工程师和创业者外流”。

此外，该法规对不属于最强大的 AI 模型的影响及其对初创公司的可能后果也引发了质疑。

法律的“拼凑”

A16z 普通合伙人 Anjney Midha 上个月在《金融时报》上写道，该法案将训练成本超过一亿美元的模型分类为强大模型，这“相对低的门槛”在“AI 开发成本高达数十亿”的背景下显得尤为突出。

还有一种观点认为，联邦政府应在如此规模的监管上采取主导地位。例如，OpenAI 的 Kwon 建议，在州级别上对 AI 进行管理可能会制造出一堆“拼凑”的法律。

当然，参议员 Wiener 并不同意这种看法。响应 OpenAI 的信件时他说，“理想情况下，国会会处理此事，”但迄今为止的缺乏行动使他对国会是否会在短期内采取行动表示怀疑。

当然，AI 公司会意识到确保技术安全推出的紧迫性。本月早些时候，OpenAI 宣布不得不关闭一个名为 Storm-2035 的秘密伊朗影响行动簇群的 ChatGPT 账户。

OpenAI 表示其目的是生成有关美国总统大选等话题的内容和评论。

这只是 AI 恶意潜力的一个例子。SB 1047 是否是应对这一威胁的正确方式，将在未来几个月引发激烈的讨论。

总结：

硅谷一直以来重视AI的规则制定，而加利福尼亚州近日提出的SB 1047 AI安全法案引发了广泛讨论。该法案旨在通过一系列措施控制强大AI模型的风险，例如强制公司允许第三方进行安全测试并设置“紧急停止开关”。尽管法案获得了埃隆·马斯克的支持，他认为这是确保AI安全的必要步骤，但却遭到OpenAI的萨姆·阿尔特曼等人的反对，他们担心严格的措施会阻碍创新，导致加州人才和企业的外流。此外，还有人认为应由联邦政府主导AI监管，以避免各州法律的不统一。支持者如Anthropic的首席执行官Dario Amodei则认为法案带来的收益可能大于成本。总的来说，该法案的通过将在未来几个月内继续引发激烈讨论。

在AI驱动的时代，私域流量的管理至关重要。选择光年AI，让您的私域流量管理变得简单又高效。光年AI不仅能智能分析，实现高效增长，还能精准触达每一个潜在客户，为您的业务保驾护航。用光年AI，打造私域流量闭环，实现长期收益，助您全面提升品牌影响力。