李飞飞反对！马斯克、Hinton、Bengio支持，加州AI监管法案即将尘埃落定。。。...

点击下方卡片，关注“CVer”公众号

AI/CV重磅干货，第一时间送达

点击进入—>【Mamba/多模态/扩散】交流群

添加微信号：CVer111，小助手会拉你进群！

扫描下方二维码，加入CVer学术星球！可以获得最新顶会/顶刊上的论文idea和CV从入门到精通资料，及最前沿应用！发论文/搞科研/涨薪，强烈推荐！

转载自：机器之心 ｜编辑：张倩、小舟

历时半年的 SB 1047法案投票将于近日迎来大结局。

「这是一个艰难的决定，会让一些人感到不安。但是，综合考虑所有因素，我认为加州或许应该通过 SB 1047 人工智能安全法案。二十多年来，我一直是人工智能监管的倡导者，正如我们对任何对公众存在潜在风险的产品 / 技术进行监管一样。」刚刚，马斯克发了这样一则推文。

马斯克提到的 SB 1047 全称是「Safe and Secure Innovation for Frontier Artificial Intelligence Act（《前沿人工智能模型安全创新法案》）」，旨在为高风险的 AI 模型建立明确的安全标准，以防止其被滥用或引发灾难性后果。

具体来说，该法案旨在从模型层面对人工智能进行监管，适用于在特定计算和成本阈值之上训练的模型。但如果严格按照规定的计算和成本阈值来算，现在市面上所有主流的大型模型都会被认为存在「潜在危险」。而且，法案要求模型背后的开发公司对其模型的下游使用或修改承担法律责任，这被认为会给开源模型的发布带来「寒蝉效应」。

该法案于今年 2 月份在参议院被提出，随后一直争议不断。很多科学家认为，法案的条款过于不合理，将对科技创新造成毁灭性的影响。前段时间，李飞飞亲自撰文，阐述了法案可能带来的诸多不利影响。加州大学的数十名师生签署了联名信，以反对这一法案（参见《李飞飞亲自撰文，数十名科学家签署联名信，反对加州 AI 限制法案》）。

在反对声浪如此高涨的当下，马斯克的态度多少有点出人意料。毕竟一旦法案通过，他创建的 xAI 所训练的 Grok 系列模型也会被纳入监管范围，而且研发进度也可能受到影响。

与此同时，他的竞争对手 OpenAI 最近宣布反对该法案，转而支持替代法案。

SB 1047 将于本周在州立法机关进行投票。如果在 8 月 31 日立法会议结束前获得通过，它将被提交给州长 Gavin Newsom，他将在 9 月 30 日之前签署或否决该法案。

OpenAI：人工智能革命才刚刚开始，SB 1047 将逼走世界级人才

前段时间，OpenAI 发布了一封公开信，反对 SB 1047 法案。公开信指出，该法案将损害人工智能行业的创新，而且该问题的监管应该来自联邦政府，而不是各州。

OpenAI 首席战略官 Jason Kwon 在信中写道：「人工智能革命才刚刚开始，加州作为人工智能全球领导者的独特地位正在推动该州的经济发展。SB 1047 将威胁这种增长，减缓创新步伐，并导致世界级的工程师和企业家离开该州，在其他地方寻找更大的机会。」

据一位知情人士透露，由于担心加州监管环境的不确定性，OpenAI 暂停了关于扩大其旧金山办事处的对话。

法案起草者、加州参议员 Scott Wiener 在一份声明中为拟议中的立法进行了辩护，并表示 OpenAI 的信「没有批评法案中的任何一项条款」。他还表示，关于人工智能人才离开该州的论点「毫无意义」，因为该法律将适用于任何在加州开展业务的公司，无论其办公室位于何处。

Anthropic、Hinton、Bengio 支持 SB 1047

其实，在 OpenAI 发布公开信之前，SB 1047 已经经过了一番修改，以安抚科技公司，主要修订如下：  

据悉，部分修改意见由另一家人工智能科技公司 Anthropic 提出。最近，该公司公开表示支持修订后的法案，但也并非毫无保留。

「根据我们的评估，新的 SB 1047 已经有了很大的改进，我们认为它的好处可能超过成本，」Anthropic CEO Dario Amodei 在 8 月 21 日给加州州长 Gavin Newsom 的一封信中说。「然而，我们对此并不确定，该法案的某些方面对我们来说似乎令人担忧或模棱两可。」

除了 Anthropic 和马斯克，SB 1047 还获得了包括 Geoffrey Hinton 和 Yoshua Bengio 在内的知名人工智能研究人员的支持，他们强调了平衡创新与安全的重要性。Hinton 称赞该法案方法合理，强调了需要有针对强大人工智能系统风险的立法。

对于两位好友的看法，和他们一起获得 2018 年图灵奖的 Yann LeCun 表示完全不同意。他既不相信现在的大模型能达到超人水平，也不认为超级 AI 必然主宰人类。在他看来，现在对 AI 进行严格监管还为时过早。

支持标记 AI 生成的内容

虽然反对 SB 1047，但其实大部分 AI 研究者、科技公司并非完全反对监管，而是反对 SB 1047 里的监管方法。

例如，在对人工智能生成的内容进行标记方面，加州一项法案最近就取得了新进展。

据 TechCrunch 报道，OpenAI、Adobe 和微软已支持加州一项法案 ——AB 3211，该法案要求科技公司对人工智能生成的内容进行标记。

AB 3211 法案将于八月进行最终投票。该法案要求人工智能生成的照片、视频和音频剪辑的元数据中包含水印。许多人工智能公司已经这样做了，但大多数人不阅读元数据。AB 3211 法案还要求 Instagram、X 等大型在线平台以普通网友可以理解的方式标记人工智能生成的内容。

OpenAI、Adobe 和微软是内容来源和真实性联盟（C2PA）的成员。从今年早些时候开始，OpenAI 已经向由 DALL・E 3、ChatGPT 和 OpenAI API 创建和编辑的图像中添加了 C2PA 元数据。

值得注意的是，商业软件联盟 BSA（成员包括 Adobe、微软等）在 4 月份曾表示反对 AB 3211 法案，他们在致加州立法者的一封信中称该法案「不可行」且「过于繁重」。然而，该法案的修正案似乎改变了他们的想法。

不过，科研人员对 SB 1047 法案的态度似乎没这么容易转变。特别是，以 OpenAI 为代表的科技公司一直持反对意见。SB 1047 法案的最终投票结果可能会在人工智能行业激起一些风浪。

参考链接：

https://techcrunch.com/2024/08/26/elon-musk-unexpectedly-offers-support-for-californias-ai-bill/

https://techcrunch.com/2024/08/26/openai-adobe-microsoft-support-california-bill-requiring-watermarks-on-ai-content/

https://x.com/elonmusk/status/1828205685386936567

https://campustechnology.com/Articles/2024/08/26/Anthropic-Announces-Cautious-Support-for-New-California-AI-Regulation-Legislation.aspx?Page=2

何恺明在MIT授课的课件PPT下载

在CVer公众号后台回复：何恺明，即可下载本课程的所有566页课件PPT！赶紧学起来！

ECCV 2024 论文和代码下载

在CVer公众号后台回复：ECCV2024，即可下载ECCV 2024论文和代码开源的论文合集

CVPR 2024 论文和代码下载

在CVer公众号后台回复：CVPR2024，即可下载CVPR 2024论文和代码开源的论文合集

Mamba、多模态和扩散模型交流群成立

扫描下方二维码，或者添加微信号：CVer111，即可添加CVer小助手微信，便可申请加入CVer-Mamba、多模态学习或者扩散模型微信交流群。另外其他垂直方向已涵盖：目标检测、图像分割、目标跟踪、人脸检测&识别、OCR、姿态估计、超分辨率、SLAM、医疗影像、Re-ID、GAN、NAS、深度估计、自动驾驶、强化学习、车道线检测、模型剪枝&压缩、去噪、去雾、去雨、风格迁移、遥感图像、行为识别、视频理解、图像融合、图像检索、论文投稿&交流、PyTorch、TensorFlow和Transformer、NeRF、3DGS、Mamba等。
一定要备注：研究方向+地点+学校/公司+昵称（如Mamba、多模态学习或者扩散模型+上海+上交+卡卡），根据格式备注，可更快被通过且邀请进群

▲扫码或加微信号: CVer111，进交流群
CVer计算机视觉（知识星球）来了！想要了解最新最快最好的CV/DL/AI论文速递、优质实战项目、AI行业前沿、从入门到精通学习教程等资料，欢迎扫描下方二维码，加入CVer计算机视觉（知识星球），已汇集上万人！

▲扫码加入星球学习

▲点击上方卡片，关注CVer公众号
整理不易，请赞和在看