人工智能需要被监控吗？看看OpenAI 是怎么说的！

本周关于人工智能技术的最大争议莫过于 OpenAI 呼吁成立一个国际人工智能监督机构——当五角大楼**的虚假图像在社交媒体上传播时，我们又看到了这项技术的阴暗面。已经有越来越多的公司在加强对开发 生成人工智能的公司的监督（这一想法得到了 OpenAI的认可），以及白宫自己推动的更严格的人工智能法规。 OPENAI 呼吁成立一个国际人工智能监督机构 在一篇最新的海外博文中，OpenAI 的三位高管——首席执行官Sam Altman、总裁Greg Brockman和首席科学家Ilya Sutskever联合呼吁建立一个全球机构来监督和规范“超级智能”人工智能系统的发展步伐，他们说这可能会给人类带来“生存风险”。 他们提议成立一个国际组织，类似于国际原子能机构（International Atomic Energy Agency），还指出人工智能公司应该分享他们的知识和实践经验，以确保大型人工智能系统的安全并与人类利益“保持一致”。 OpenAI 的高管们提出了一些有意思的实践方法，这样一个全球性组织可以通过这些方法来跟踪人工智能的发展步伐。他们在博文中写道： 任何超过特定能力或资源外的成果，都应该在保持一定范围内，需要接受一个国际权威机构的系统检测。这要求审计和测试都符合安全标准、运营限制和安全级别等方面的考量。   这篇博文呼应了 OpenAI首席执行官 Altman上周在参议院小组委员听证会时发表的评论，他呼吁美国政府监管新兴的 AI 行业，包括 OpenAI 的工作。愤世嫉俗者会争辩说，在美国和其他大多数国家的政府都在努力理解这项技术的时候，Altman 和 OpenAI 很容易呼吁进行这种形式的监管和监督。 当然，对于远比人类聪明的人工智能系统所带来的长期发展问题，即使在科学界也存在很大分歧。包括 AI“教父” Geoffrey Hinton在内的一些顶级专家认为，在不远的将来，超级智能系统很可能会欺骗甚至毁灭人类。 另一方面，图灵奖获得者和 Meta 首席科学家 Yann LeCun 则认为，人类将继续完全控制人工智能系统的行为方式。 拜登政府继续推动广泛的人工智能政策 拜登政府周二发布了一系列新计划，旨在研究新技术的积极影响和风险，可见AI技术的成熟和扩散速度远快于大多数人的预期。作为该计划的一部分，白宫正在制定“全国人工智能战略”，计划呼吁公共和私营部门提供意见，以帮助为政府未来对生成人工智能的监管和投资提供信息。 根据白宫的说法，这项计划旨在从国家安全的角度出发，更好地对人工智能进行全方面的了解，例如发送的错误信息、黑客攻击等，进而发现它在应对气候变化方面的潜在作用和影响。 白宫的科学和技术政策办公室 (OSTP) 也将发布新版的国家 AI 研发战略计划—— National AI R&D Strategic Plan。此政策上一次更新是在 2019 年。新版概述了联邦政府投资 AI 的优先事项和目标研发。OSTP 正在征求公众对此事的评论。 五角大楼的虚假新闻 本周一，一张很可能是使用人工智能生成的图片在社交媒体上迅速传播（部分归功于俄罗斯官方媒体“今日俄罗斯”的一条推文），描绘了五角大楼发生的**。虽然警方很快向公众保证没有发生这样的**，但网上的骚动足以导致美国股市短暂下跌。   这件事从发酵到结束的时间虽然非常短暂，但它再次为我们拉响了警报，人工智能技术的更新迭代亟需在 2024 年建立更完善的政策。 明年将在美国、英国、印度、印度尼西亚和俄罗斯等国家举行重大选举，预计将有 10 亿人参与投票。各种政治活动家很有可能会尝试使用人工智能创造的高科技虚假信息来左右选民的想法，而这些虚假信息将在社交媒体平台上进行传播。 AI 工具大大降低了生成社交内容的成本，因此一些资金充足的政治家（例如2016 年在 Facebook 上投放广告的俄罗斯国家附属机构）可以用相同的图像和消息，进行数百个版本的测试，直到找到对选举结果有利的的正确组合。 针对此类人工智能生成的广告，美国国会和选举监督机构还没有制定相关的保护措施。许多科技公司已经解雇了负责监管此类政治虚假信息的员工。 文章来源：Mark Sullican. “Dose AI need a watchdog? OpenAI thinks so", FastCompany, 发表于https://www.fastcompany.com/90900690/ai-watchdog-openai-biden-pentagon