白宫与八大AI企业达成安全承诺

美国拜登-哈里斯政府（美国政府名称）在近日重磅宣布，已成功获得八大顶级人工智能企业的第二轮自愿安全承诺，共同为未来的AI技术安全发展画出了蓝图。

这些业界巨头，包括Adobe、Cohere、IBM、Nvidia、Palantir、Salesforce、Scale AI 和 Stability，均派出了高层代表出席白宫的这一盛大发布会。他们共同表示，将在推动人工智能技术的安全、可靠和值得信赖的发展上扮演关键角色。

随着AI技术的普及，拜登-哈里斯政府正密切注视其发展，寻求多方协作，希望确保美国能在此领域持续领跑，并在享受技术带来的益处的同时，做到妥善的风险管理。

这次的承诺，涉及的核心理念有三：安全、保障与信任。具体来看，这些企业表示：

1. 产品发布前的全面安全检查：在将AI系统推向市场之前，他们将确保进行全面的安全测试，包括邀请独立专家进行评估，确保避免各种重大风险。同时，他们还将积极地与各方分享有关AI风险管理的知识，通过这种协作方法进一步提高整个行业的安全标准。

2. 建立“安全至上”的系统：对于网络安全和内部威胁，这些公司已经作出重要承诺，他们将确保对模型权重等关键信息进行充分保护，只有在确保安全性的情况下才会进行发布。而且，他们也鼓励外部专家对其AI系统进行检查，确保其安全性。

3. 赢得大众的信赖：为了让大众对AI技术保持信任，这些公司将采用各种技术手段，如使用水印系统来标识AI生成的内容。他们也会定期公开报告其AI技术的应用范围、潜在风险等，同时加强对偏见和歧视问题的研究，确保技术的公平性。

值得注意的是，这些公司不仅仅关注技术的安全，还将其技术应用于解决各种社会挑战，从癌症治疗到气候变化的问题。

此外，拜登-哈里斯政府在这一承诺上的行动并不仅限于国内，还涉及了与许多国际伙伴和盟友的合作。这一行动与其他国家的倡议相辅相成，如英国的AI安全峰会、日本在G7广岛进程中的领导作用和印度的AI全球伙伴关系。

可以说，这次的公告不仅是美国，更是全球AI发展历程中的一个里程碑。这意味着，无论是业界还是政府，都开始更为深入地认识到，只有合作，我们才能确保人工智能技术真正地服务于人类，并最大限度地降低其潜在风险。