亚马逊云科技：企业需要加强人工智能安全保护_ai安全态势管理:prisma cloud ai安全态势管理(ai-spm)保护ai apps 远离-CSDN博客

本文链接：https://blog.csdn.net/weixin_46812959/article/details/140254812

关键字: [reInforce, AI Runtime Security, ]

本文字数: 1500, 阅读完需: 8 分钟

导读

在一场亚马逊云科技活动上,来自Palo Alto Networks的Jamie Patel就”加强AI安全:保护AI应用程序、模型和数据”进行了演讲。该演讲探讨了企业如何通过设计来确保AI的安全性,包括跟踪和监控AI的使用、确保AI应用程序开发生命周期的安全性,以及保护AI数据。Palo Alto Networks推出了三款新产品:AI Access用于保护员工访问生成式AI应用程序、AI安全态势管理用于识别和修复AI基础设施、数据和供应链中的风险,以及AI运行时安全用于保护企业AI应用程序、模型和数据免受AI特定威胁和基础威胁。演讲重点介绍了Palo Alto Networks的平台如何实现全面的AI安全性、高度的易用性以及与现有安全解决方案的无缝集成。

演讲精华

以下是小编为您整理的本次演讲的精华，共1200字，阅读时间大约是6分钟。

人工智能(AI)的采用速度确实令人瞩目,甚至超越了当今最具变革性的技术,如互联网、移动技术和社交媒体。虽然互联网花费23年才达到10亿用户,移动技术则需要15年以上,但AI在问世仅7年后,就已经积累了惊人的2.5亿用户。这种飞速增长预计将持续,预计到2029年,AI将达到10亿用户,从而巩固其作为人类历史上采用最快的技术地位。

这种前所未有的增长导致AI应用程序激增,目前全球有超过2,400种原生AI应用程序。然而,在未来5到6年内,这一数字预计将增加五倍,因为每个SaaS应用程序都将很快融入AI功能。虽然这一增长轨迹无疑令人印象深刻,但它也带来了一系列企业必须积极应对的风险。

目前,大约43%的企业客户已采用AI,这一数字预计在未来12个月内将接近100%。一个典型的大型企业将拥有数百个AI应用程序、数千个模型端点,以及用于训练AI模型和处理数百万提示的数十PB数据。然而,这种广泛采用也暴露出了漏洞,有50%的员工访问了不安全的生成式AI(genAI)应用程序,80%的公共模型很容易被破解,还存在超过100个恶意模型,开发人员可能会无意中使用,从而给组织带来更大风险。

为了应对这些挑战,Palo Alto Networks提倡从设计上就确保AI安全,这是一种全面的方法,包括跟踪和监控每个员工的AI使用情况、确保AI应用程序开发生命周期的每个步骤的安全性,以及保护AI数据。这种方法不需要引入额外的点产品,而是扩展了企业熟悉的现有网络安全平台。

Palo Alto Networks推出了三种产品来促进从设计上确保AI安全:AI Access、AI安全态势管理(AISPM)和AI运行时安全。

AI Access 专注于确保员工安全访问生成式人工智能(genAI)应用程序。它提供实时可见性,使组织能够查看和分类员工正在访问的 genAI 应用程序,无论是用于代码生成、营销材料、工程生产力还是文本摘要。AI Access 还为组织提供对哪些员工和群组可以访问特定 AI 应用程序的控制权,以及数据治理政策,以防止员工在训练过程中无意中向 genAI 模型暴露组织数据,从而导致知识产权和敏感数据泄露。

另一方面,AISPM 有助于识别和修复与企业 AI 应用程序相关的基础设施安全风险、数据风险和供应链风险。它提供实时风险评估、优先级建议和可操作的见解,帮助组织缓解潜在的漏洞。

AI Runtime Security 旨在保护企业 AI 应用程序、模型和数据免受 AI 特定威胁和基础风险。它为 AI 应用程序、模型和数据提供全面保护,包括防止提示注入攻击、模型拒绝服务攻击和数据泄露。

企业 AI 应用程序本质上比标准 Web 应用程序更加复杂,涉及 CPU、GPU、ML 库、容器、无服务器功能、AI 模型、微调数据模型和插件/代理等组件。每个组件都带来自己的一系列风险,包括供应链和配置风险、运行时风险,以及提示注入攻击和模型拒绝服务攻击等 AI 特定风险。

Patel 举例说明了提示注入攻击,精心设计的提示可能会利用模型并泄露敏感数据。例如,一家制药客户正在为研究人员和科学家构建一个内部应用程序,以加速药物开发。攻击者可能会设计提示来从用于此应用程序的模型中提取敏感数据。同样,一家证券交易所客户计划提供一个投资者智能应用程序,根据证券交易委员会(SEC)文件总结上市公司的业绩表现。提示注入攻击可能会从这些模型中泄露敏感的财务数据。

人工智能(AI)带来了巨大的机遇,但同时也存在着重大的数据风险。由于AI模型是在敏感数据上进行训练的,因此可能会无意中泄露个人身份信息(PII)或受保护的健康信息(PHI)。举例来说,某医疗机构的AI应用程序在被询问治疗症状时,由于模型是在患者数据上进行微调的,因此可能会泄露患者信息。

传统的安全解决方案无法有效应对这些AI特有的风险,原因在于它们无法发现AI应用程序组件、难以部署和隔离容器化应用程序,以及缺乏针对AI特定攻击的保护措施。

Palo Alto Networks的AI Runtime Security解决方案通过全面发现、简化部署和全面防御来应对这些挑战。它能够发现AI应用程序生态系统的每个组件,包括应用程序、模型、数据、互联网目的地和访问AI应用程序的用户。它能够轻松部署AI Runtime Security实例来保护AI应用程序、模型和数据。此外,它提供了细粒度的策略来保护AI应用程序、模型和数据,利用AI驱动的精准技术来防御AI驱动的威胁。

演示展示了跨多个云环境发现AI应用程序组件的情况,包括21个应用程序、5.1k个总资产、500个危机、10个模型和40个互联网目的地。随后,演示了在亚马逊云科技(亚马逊云科技)上部署AI Runtime Security实例来保护访问五个模型的七个应用程序的过程,并利用了一个最佳实践参考架构。

该解决方案允许组织编写细粒度的安全配置文件,以防止提示注入攻击、模型拒绝服务攻击和数据泄露。它与Palo Alto Networks现有的网络安全平台集成,使客户能够使用相同的实例来保护AI和非AI应用程序。

Palo Alto Networks的AI Runtime Security解决方案提供全面的保护,支持数千个应用程序和协议,针对基于Web的攻击提供40%更好的保护,防御25+种DNS攻击,并实现99%以上的恶意软件检测准确性。它保护所有主要云服务提供商(CSP)管理的模型,防止直接和间接的提示注入攻击,并为数据泄露防护提供1,000多种预定义的数据模式,覆盖范围比其他基于云的解决方案高2倍。

随着企业持续采纳并构建人工智能(AI)应用程序,Palo Alto Networks旨在通过降低风险和保护其AI资产,让它们能够自信地这样做。该公司的AI安全解决方案,包括AI Access、AISPM和AI Runtime Security,将于7月推出,客户可以通过扫描提供的二维码表达兴趣,并成为设计合作伙伴,从而提前获得这些产品。

总的来说,AI的快速采用开启了技术进步的新时代,但也为组织带来了各种风险。Palo Alto Networks以设计安全AI的全面方法,加上其创新的AI安全解决方案,使该公司成为企业在AI采用和开发的复杂过程中值得信赖的合作伙伴。

下面是一些演讲现场的精彩瞬间：

在那一刻,演讲者询问了在场观众的背景,包括网络安全、应用安全和数据中心等领域的从业人员,并幽默地表示下一代人将会”出生”在人工智能领域。