在最近举行的首尔人工智能峰会上,全球多家领先的人工智能公司达成共识,致力于确保人工智能的安全、创新和包容性。这一倡议是在一系列虚拟会议中酝酿的,旨在探讨如何更好地管理人工智能技术的风险。
喜好儿网更多消息:
https://heehel.com/category/ai-news
喜好儿网AIGC专区:
https://heehel.com/category/aigc
参与的16家公司,包括亚马逊、Anthropic、Cohere、谷歌、IBM、Inflection AI、Meta、微软、Mistral AI、Open AI、三星电子以及智普.ai(一家由中国科技巨头阿里巴巴、蚂蚁金服和腾讯支持的公司)等,共同签署了一项全球首个关于人工智能安全的承诺。这些公司承诺,在人工智能模型和系统的开发与部署过程中,将采取严格的安全措施。
安全承诺的核心是,如果无法通过缓解措施将风险控制在可接受的阈值以下,公司将不会开发或部署相关模型或系统。这一承诺要求公司建立明确的风险评估框架,并在必要时按下“紧急停止”按钮,以确保人工智能技术的安全使用。
尽管这不是人工智能公司首次发布类似的安全承诺,但此次峰会所达成的共识体现了行业对于确保技术安全性的日益重视。专家如计算机科学家约书亚・本吉奥也对此表示欢迎,并强调监管与自愿承诺相结合的重要性。
通过此次峰会,全球人工智能行业的领导者们展示了他们对于技术安全性的共同关注,并为未来的合作与发展奠定了坚实的基础。