美国拜登-哈里斯政府(美国政府名称)在近日重磅宣布,已成功获得八大顶级人工智能企业的第二轮自愿安全承诺,共同为未来的AI技术安全发展画出了蓝图。
这些业界巨头,包括Adobe、Cohere、IBM、Nvidia、Palantir、Salesforce、Scale AI 和 Stability,均派出了高层代表出席白宫的这一盛大发布会。他们共同表示,将在推动人工智能技术的安全、可靠和值得信赖的发展上扮演关键角色。
随着AI技术的普及,拜登-哈里斯政府正密切注视其发展,寻求多方协作,希望确保美国能在此领域持续领跑,并在享受技术带来的益处的同时,做到妥善的风险管理。
这次的承诺,涉及的核心理念有三:安全、保障与信任。具体来看,这些企业表示:
产品发布前的全面安全检查:在将AI系统推向市场之前,他们将确保进行全面的安全测试,包括邀请独立专家进行评估,确保避免各种重大风险。同时,他们还将积极地与各方分享有关AI风险管理的知识,通过这种协作方法进一步提高整个行业的安全标准。
建立“安全至上”的系统:对于网络安全和内部威胁,这些公司已经作出重要承诺,他们将确保对模型权重等关键信息进行充分保护,只有在确保安全性的情况下才会进行发布。而且,他们也鼓励外部专家对其AI系统进行检查,确保其安全性。
赢得大众的信赖:为了让大众对AI技术保持信任,这些公司将采用各种技术手段,如使用水印系统来标识AI生成的内容。他们也会定期公开报告其AI技术的应用范围、潜在风险等,同时加强对偏见和歧视问题的研究,确保技术的公平性。
值得注意的是,这些公司不仅仅关注技术的安全,还将其技术应用于解决各种社会挑战,从癌症治疗到气候变化的问题。
此外,拜登-哈里斯政府在这一承诺上的行动并不仅限于国内,还涉及了与许多国际伙伴和盟友的合作。这一行动与其他国家的倡议相辅相成,如英国的AI安全峰会、日本在G7广岛进程中的领导作用和印度的AI全球伙伴关系。
可以说,这次的公告不仅是美国,更是全球AI发展历程中的一个里程碑。这意味着,无论是业界还是政府,都开始更为深入地认识到,只有合作,我们才能确保人工智能技术真正地服务于人类,并最大限度地降低其潜在风险。