大型人工智能公司对加州人工智能“自杀开关”法案的强烈抗议

大型人工智能公司对加州人工智能“自杀开关”法案的强烈抗议

加利福尼亚州的人工智能重量级人物抗议一项州法案，该法案将迫使科技公司遵守严格的安全框架，包括创建一个“死亡开关”来关闭其强大的人工智能模型。围绕这项尖端技术的监管控制，一场愈演愈烈的斗争正在展开。

加州立法机构正在考虑对在该州运营的科技公司实施新限制的提案，包括三家最大的人工智能初创公司OpenAI、Anthropic和Cohere，以及Meta等大型科技公司运营的大型语言模型。

该法案于上月由加州参议院通过，并将于8月在其全体大会上进行表决。该法案要求加州的人工智能团体向一个新成立的州机构保证，他们不会开发具有“危险能力”的模型，比如制造生物武器或核武器，或协助网络安全攻击。

根据拟议中的《前沿人工智能系统安全创新法案》(Safe and Secure Innovation for Frontier Artificial Intelligence Systems Act)，开发人员将被要求报告他们的安全测试，并引入所谓的“终止开关”(kill switch)来关闭他们的模型。

但这项法律已成为硅谷许多人强烈反对的焦点，因为有人声称，它将迫使人工智能初创企业离开该州，并阻止Meta等平台运营开源模型。

著名计算机科学家吴恩达(Andrew Ng)说，“如果有人想制定法规来扼杀创新，那就再好不过了。”吴恩达曾在Alphabet旗下的谷歌(Google)和中国的百度(Baidu)领导人工智能项目，同时也是亚马逊董事会成员。“它为科幻小说带来了巨大的风险，因此让任何敢于创新的人感到恐惧。”

人工智能的快速增长和巨大潜力引发了人们对该技术安全性的担忧，去年，chatgpt制造商OpenAI的早期投资者、亿万富翁埃隆·马斯克(Elon Musk)称其对人类构成了“生存威胁”。本周，一群现任和前任OpenAI员工发表了一封公开信，警告称“前沿人工智能公司”没有得到政府的充分监督，并对人类构成“严重风险”。

加州的这项法案是由人工智能安全中心(CAIS)共同发起的。CAIS是一家总部位于旧金山的非营利组织，由计算机科学家丹·亨德里克斯(Dan hendricks)运营，他是马斯克的人工智能初创公司xAI的安全顾问。CAIS与有效利他主义运动有着密切的联系，该运动是由被监禁的加密货币高管萨姆·班克曼-弗里德(Sam Bankman-Fried)发起的。

提出这项立法的民主党州参议员斯科特·维纳说:“从根本上说，我希望人工智能取得成功，创新继续下去，但让我们努力走在任何安全风险之前。”

他补充说，这是一项“轻触式法案……这只是要求开发人员训练大型模型来执行基本的安全评估，以识别大风险，并采取合理的措施来降低这些风险。”

但批评人士指责维纳过于严格，给开发人员带来了昂贵的合规负担，尤其是在规模较小的人工智能公司。反对者还声称，该法案侧重于假想的风险，给创始人增加了“极端”的责任风险。

其中最激烈的批评是，该法案将损害开源人工智能模型——开发人员将源代码免费提供给公众，允许开发人员在其基础上进行构建——比如Meta的旗舰LLM Llama。该法案将使开放模型的开发人员对操纵其模型造成伤害的不良行为者承担潜在的责任。

Meta的生成式人工智能首席产品经理Arun Rao上周在X上发表的一篇文章中表示，该法案“行不通”，将“终结(加州)的开源”。

他补充说:“随着公司和高薪员工的离开，摧毁人工智能产业和驱逐公司的净税收影响可能达到数十亿美元。”

维纳在谈到批评时说:“这是科技行业，它不喜欢任何监管，所以我一点也不奇怪会有反弹。”

他说，一些回应“不完全准确”，并补充说，他计划对该法案进行修订，以澄清其范围。

提议的修正案指出，开源开发人员将不对“经过大量微调”的模型负责，这意味着如果一个开源模型被第三方充分定制，那么它就不再是制作原始模型的团队的责任。他们还声明“终止开关”的要求不适用于开源模型，他说。

另一项修正案指出，该法案将只适用于“培训成本至少为1亿美元”的大型模型，因此不会影响大多数小型初创公司。

CAIS的亨德里克斯说:“这些竞争压力正在影响这些人工智能组织，基本上激励他们在安全上偷工减料。”他补充说，该法案是“现实和合理的”，大多数人都希望“一些基本的监督”。

然而，硅谷一位资深风险投资家表示，他们已经接到了一些创始人的询问，询问他们是否需要因为潜在的立法而离开加州。

这位人士表示:“我对所有提出要求的人的建议是，我们留下来战斗。”“但这将给开源和初创企业生态系统带来寒意。我确实认为一些创始人会选择离开。”

过去一年，随着人工智能技术的普及，世界各国政府一直在采取措施监管人工智能。

美国总统乔·拜登于10月发布了一项行政命令，旨在为人工智能安全和国家安全制定新的标准，保护公民免受人工智能隐私风险的侵害，并打击算法歧视。今年4月，英国政府概述了制定监管人工智能新立法的计划。

批评者对加州人工智能法案在CAIS的带领下出现并通过参议院的速度感到困惑。

CAIS的大部分资金来自开放慈善，这是一家总部位于旧金山的慈善机构，起源于有效的利他主义运动。它在2022年至2023年期间向CAIS提供了价值约900万美元的赠款，这符合其“先进人工智能潜在风险的重点领域”。CAIS行动基金是去年成立的非营利组织的一个分支，于2023年在华盛顿特区注册了第一批游说者，今年在游说上花费了大约3万美元。

在多个选举周期中，Wiener从富有的风险投资家罗恩•康威(Ron Conway)那里获得了资金。康威是SV Angel的管理合伙人，也是人工智能初创企业的投资者。

卡内基梅隆大学(Carnegie Mellon University)海因茨学院(Heinz College)人工智能教授拉伊德·加尼(Rayid Ghani)表示，对该法案存在“一些过度反应”，他补充说，任何立法都应专门关注该技术的用例，而不是规范模型的开发。