前OpenAI员工签署公开信呼吁更多举报人保护，加州立法者提议AI监管法案
四年来，雅各布·希尔顿在湾区最具影响力的初创公司之一OpenAI工作。他的研究帮助测试和改进了如ChatGPT等AI模型的真实性。他相信人工智能可以造福社会，但也认识到如果不加以监管，这项技术可能带来的严重风险。
希尔顿是本月签署公开信的13名现任和前任OpenAI及谷歌员工之一，这封公开信呼吁更多的举报人保护，指出广泛的保密协议是个问题。
33岁的希尔顿现在是一名位于伯克利的非营利机构Alignment Research Center的研究员，他表示：“基本情况是，员工是最接近这项技术的人，也是因揭发问题而遭到报复风险最大的人。”
加州立法者行动
加州立法者正通过约50项与人工智能相关的法案，试图解决这些问题。许多法案旨在为快速发展的技术设置保障措施，立法者认为这些技术可能会对社会造成伤害。
然而，代表大型科技公司的团体认为，这些提议的立法可能会抑制创新和创造力，使加州失去竞争优势，并显著改变AI在该州的开发方式。
这些法案涵盖了广泛的AI相关担忧，包括工作替代、数据安全和种族歧视等问题。一项由Teamsters共同发起的法案，旨在对无人驾驶重型卡车进行人工监督。由服务员工国际联盟支持的法案试图禁止在提供公共福利服务的呼叫中心用AI系统自动化或替代工作。由参议员斯科特·维纳（D-San Francisco）撰写的另一项法案要求开发大型AI模型的公司进行安全测试。
立法推动的背景
在拜登政府期间，联邦和州的民主党人对大型科技公司变得更加积极。维纳表示：“我们已经看到，其他技术出现了大问题后，我们才开始采取行动。社交媒体对社会贡献了许多好处……但也带来了显著的负面影响，而我们并没有采取措施减少或减轻这些危害。现在我们正在亡羊补牢。我不希望再这么做。”
AI技术的快速发展
AI工具正在快速进步，它们可以给孩子读睡前故事、在快餐店整理订单并帮助制作音乐视频。一些科技爱好者对AI的潜在好处感到兴奋，但也有人担心工作流失和安全问题。
旧金山非营利机构Center for AI Safety的负责人丹·亨德里克斯表示：“几乎所有人，包括许多专家，都对技术进步的速度感到惊讶。如果我们再拖延几年不采取任何行动，可能会为时已晚。”
维纳的法案SB1047由Center for AI Safety支持，呼吁构建大型AI模型的公司进行安全测试，并有能力关闭他们直接控制的模型。法案的支持者表示，这将保护免于AI被用于制造生物武器或关闭电网等情况。法案还要求AI公司实施匿名举报机制。州检察长可以起诉以执行安全规则。
法案的争议
包括Meta、谷歌和OpenAI在内的科技公司的行业团体TechNet反对这项法案，认为立法者应谨慎行事。Meta和OpenAI未回应置评请求，谷歌拒绝置评。TechNet的加州和西南地区执行董事迪伦·霍夫曼表示：“过快行动会带来自己的后果，可能会抑制和遏制这项技术带来的某些好处。”
法案已通过州议会隐私与消费者保护委员会，接下来将进入州议会司法委员会和拨款委员会，如果通过，将提交州议会全体表决。
民众的支持
维纳的法案支持者表示，他们是回应公众的愿望。根据Center for AI Safety Action Fund委托的对800名加州潜在选民的调查，86%的参与者表示，制定AI安全法规对该州来说是一个重要优先事项，77%的参与者支持对AI系统进行安全测试的提议。
希尔顿表示：“目前的现状是，在安全和保障方面，我们依赖这些公司自愿作出的公开承诺。但问题的一部分在于没有好的问责机制。”
其他相关立法
另一项对工作场所影响广泛的法案是AB 2930，旨在防止“算法歧视”，即自动化系统在招聘、薪酬和解雇方面基于种族、性别或性取向对某些人不利。
去年，反歧视法案在立法会议上未通过，今年重新提出后，初期获得了高知名度科技公司Workday和微软的支持，但他们对会增加公司责任的修正案表示担忧。
Workday公共政策负责人钱德勒·摩尔斯表示：“我们正在评估我们对新修正案的立场。”
微软拒绝置评。
好莱坞的呼声
AI的威胁也是好莱坞工会的呼吁重点。美国编剧工会和美国电影电视演员联合会在去年的罢工期间为其成员争取到了AI保护，但技术风险超出了工会合同的范围。演员工会全国执行董事邓肯·克拉布特里-爱尔兰表示：“我们需要公共政策赶上来，开始制定这些规范，以减少AI领域的无序环境。”
科技公司敦促谨慎对待过度监管。技术行业组织进步商会的托德·奥博伊尔表示，如果政府监管过于严厉，加州的AI公司可能会选择迁往其他地方。他警告道：“我们不应该让对假设性危害的恐惧驱动政策制定，当我们拥有这项在最初阶段就能创造巨大繁荣的变革性技术时。”
红木城云计算公司Box的首席执行官阿伦·莱维表示：“我们需要更强大的模型，然后逐步评估风险。”
扫一扫
78
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
