英国和美国签署开发人工智能安全测试协议

英国和美国签署了一项具有里程碑意义的协议，合作开发先进AI系统的严格测试，这代表了确保其安全部署方面的一个重大进步。

这份于周一由英国技术大臣米歇尔·多内兰和美国商务部长吉娜·雷蒙多签署的谅解备忘录，建立了一个伙伴关系，以协调两国在迅速迭代尖端AI模型、系统和代理的强大评估方法方面的科学方法。

根据这项协议，英国的新AI安全研究所和即将成立的美国机构将交换研究专长，目的是缓解AI风险，包括如何独立评估诸如OpenAI之类公司的私有AI模型。这个伙伴关系是基于GCHQ和国家安全局之间的安全合作模式。

多内兰表示：“这项协议代表了一个里程碑时刻，因为英国和美国加深了我们持久的特殊关系，以应对我们这一代的决定性技术挑战。” “只有通过共同努力，我们才能直面技术的风险，并利用其巨大潜力，帮助我们所有人过上更轻松、更健康的生活。”

该伙伴关系是在去年11月英国举办的AI安全峰会上做出的承诺的后续行动。这些研究所计划构建一个共同的AI安全测试方法，并共享能力以有效应对风险。他们打算进行至少一次针对公开可访问AI模型的联合公开测试，并探索人员交流。

雷蒙多强调了合作的重要性，表示：“AI是我们这一代的决定性技术。这个伙伴关系将加速我们两个研究所在风险全谱上的工作，无论是对我们的国家安全还是对我们更广泛的社会。”

两国政府都认识到AI的快速发展以及迫切需要一个能够跟上新兴风险步伐的共享全球安全方法。该伙伴关系立即生效，允许组织之间的无缝合作。

雷蒙多补充说：“通过共同努力，我们正在加深美国和英国之间长久的特殊关系，并为确保我们现在和未来都能保持AI安全奠定基础。”

除了共同测试和能力共享外，英国和美国还将交换有关AI模型能力、风险和基础技术研究的关键信息。这旨在为全球研究人员采用的AI安全测试建立一个共同的科学基础。

尽管关注风险，但多内兰坚持英国短期内没有计划更广泛地监管AI。相比之下，乔·拜登总统对威胁国家安全的AI模型采取了更严格的立场，而欧盟AI法案已采纳了更严格的规定。

行业专家欢迎这一合作，认为它对于在营销、金融和客户服务等领域促进AI开发和采用的信任和安全至关重要。

Zoho的Ramprakash Ramamoorthy表示：“确保AI的开发和使用受到信任和安全的治理至关重要。” “采取措施保护训练数据可以缓解风险，并增强那些部署AI解决方案的人的信心。”

Encompass的Henry Balani博士补充说：“通过与美国的这项合作协议缓解AI的风险，是朝着缓解金融犯罪风险、促进合作以及在一个关键的、不断进步的技术领域支持创新的关键一步。”