亚马逊云科技：安全平台化保障生成式AI安全未来

关键字: [Precision AI, 安全平台化, Ai安全威胁, 精准式Ai, Ai访问安全, Ai运行时安全]

本文字数: 4800, 阅读完需: 24 分钟

导读

薛友逢先生是来自Palo Alto Networks的语音安全经理,他在演讲中分享了公司如何通过安全平台化的方式来构建AI时代的智能安全底座。他指出,在AI时代,黑客利用AI技术发起攻击的成本和效率都在提高,企业需要在短时间内发现和防御这些攻击。为此,Palo Alto Networks推出了”精准式AI”概念,通过机器学习、深度学习和生成式AI的交叉分析,实现更高精度的安全威胁识别。他还介绍了公司的AI安全解决方案,包括AI Access Security、AI SPM和AI Runtime Security等,帮助企业安全使用AI应用、构建AI应用,并最终实现自动化安全。

演讲精华

以下是小编为您整理的本次演讲的精华，共4500字，阅读时间大约是22分钟。

亲爱的观众朋友们,下午好!我是来自Palo Alto Networks的语音安全经理。今天,我想从安全厂商的角度,与大家分享我们如何看待人工智能(AI)市场以及AI安全市场。我会分享一些与各位息息相关的真实例子,因为AI、AI应用以及AI安全可能在未来都将成为人们无法离开的话题。

我今天的主题是:我们如何通过安全平台化的方式来构建AI时代的智能安全底座?

首先,简单介绍一下我们公司。Palo Alto Networks是一家全球化的公司,总部不在Palo Alto。尽管公司名称中包含”Palo Alto”,但我们的总部并不位于那里。公司创始人最早的研发工作是在Palo Alto进行的,因为那里最出名的是斯坦福大学,周边有许多高科技产业。

如果您从事安全行业,一定对Palo Alto Networks并不陌生。我们最初是做下一代防火墙起家的。在Gartner魔力象限的下一代防火墙领域,从开始到现在已经12年,我们在这12年里一直是这个象限中最领先的厂商。

我们现在拥有超过70,000家客户,其中包括了全球95%的2,000强企业,大量金融、政企和高科技企业都是我们的客户。我们在网络安全方面有非常深厚的积累。

但大家可能不知道的是,从公司成立之初,尤其是从2018年开始,我们到现在为止,一共已经收购了20家公司,总计花费超过50亿美元。在这20家公司中,有17家与网络安全无关,大部分是聚焦云安全、端点安全、主机安全和未来安全运营等产品,以及网络加速SD-WAN等产品。我们希望通过构建一个平台化的能力来实现未来安全的形态。

无论是下一代防火墙、主机安全、容器安全运营、零信任、SaaS等,我们都是这个市场的主要领导者,很多概念都是我们提出的。

目前为止,如果大家关注股市的话,最近有一个引起广泛关注的”蓝屏”事件,涉及的是全球排名第二的安全厂商,在这个事件中它已经跌至第三或第四的市值。而Palo Alto Networks是安全领域市值最高的厂商,差不多是第二名的两倍。我们的市值相当于第二、三、四、五名加在一起。

为什么我们的市值这么高?因为我们在构建一个全面安全平台化的能力,这对于AI时代至关重要。

我们为什么要做这些收购,构建平台最需要的是什么?就是数据和算力。因为未来要实现安全智能、自动化,需要大量数据进行训练,需要大量数据做出更精确的安全识别和情报能力,并推送给全球客户。当客户基数越大,安全情报网越大,产品能力就越强。

所以我们与亚马逊云科技(AWS)全球做战略合作,我们的很多数据、安全产品的SaaS服务都基于亚马逊云科技承载。我们是亚马逊云科技安全领域非常重要的合作伙伴,过去几年都是它全球最佳安全ISV。去年在中国也拿了一个Global ISV奖。

目前在外资安全厂商中,唯一在中国合法合规落地的就是Palo Alto Networks,基本上没有之一。

好,简单介绍了公司背景。今天的重点不是讲产品,而是从AI时代对各位、各位公司和个人意味着什么来分享。

我将分享几个数据:在整个AI时代,除了我们现在看到的AI初创公司、大模型公司、AI应用公司外,还有一拨人对AI技术非常关注,大家知道是谁吗?是黑客。从我们的观察,他们应用AI技术的速度、敏捷性和效率远超我们。他们非常快速地应用这些AI技术去做一些可以赚钱的事情。简单地说,我不是在教大家干这个事情,但是我们要注意,其实有一大波人,他们早在好几年前就已经在用类似于这种自动化AI人工智能技术再去做一些攻击。

比如说我们现在看到的一些简化攻击,钓鱼邮件的开发,恶意软件的开发,大量的现在新的一些变种,一些攻击工具,全都是在用AI去开发。我们前段时间看到一个客户中了一个钓鱼邮件,那个邮件完全就是AI写的,跟真的一模一样,完全没有任何的地方你能看出来它是一个非官方的发出来的。

比如说我自己也中过一个,就是说我的报销被拒掉了,对,对不起,你的报销被拒掉了。所有的样式模板,内容跟你实际收到的东西一模一样,如果你没有一点点sense,你去点开看一下这个链接好像有点危险,你可能就点进去了。那你对不起,如果你点进去,以现在这个安全软件,恶意软件的能力,可能你的信息,你的账户里的钱,你的很多什么银行密码这些东西可能就泄露了,这个东西防不胜防。

对,包括一些通过广告,通过一些这种微信邮件,还有一些CC,包括在海外有什么WhatsApp这种现在有大量的通过机器学习,通过自动化的方式,天天很密集地去发这种调研邮件,非常多。

第二块我们叫强化攻击,这个东西更好理解,我原来一个黑客,我每天我24小时不睡觉,我可能只能攻击100个客户,现在我有了AI的工具,我一分钟就可以攻击100个客户。我们刚刚今天上午的时候,有一个客户跟我聊,他说我们就是一个很小的客户,但为什么也被攻击呢?因为现在的攻击是无差别的,我不是说我为了攻击你而攻击你,只要你的资产在云上,只要你有暴露面,你有漏洞,我就可以通过自动化的攻击,自动化的工具去攻击你,它的效率是无敌高,所以在座的所有人将来都有可能,如果现在还没有,或者你没有感知到,未来有可能都会变成受害者。

第三块,我们叫创新攻击,这块就更有意思,那举个例子,就是大家都知道现在有一些诈骗的人,就是直接拿通过AI生成你的视频,生成你的声音去骗。在安全领域我们管这个东西叫社会工程。那么其实现在有更多的这种创新攻击,它会伪装成你的IT,伪装成你的财务,伪装成你的HR,他的声音,他的画面,他的内容都跟真实的一模一样,防不胜防。但是这些东西都是黑客利用一些高新技术去做攻击的一些简单的例子。简单的例子其实还有更多我们不知道的,包括今天提到的一些提示词的攻击,包括一些这种循环的,这种攻击,其实有非常多的变种,他们是在这块的跟进是非常快的。

所以我们看到的一个趋势就是目前为止,从2021年统计到今天,到我们未来看到2025、2026年的预测,我们会看到一个很重要的趋势,就是目前在AI时代,基于人工智能技术发起的黑客攻击和网络攻击,它的成本在大幅下降,它的技术门槛在大幅下降,它的效率在无限提升,就导致什么有可能我们构建一个黑客,构建一个全新的勒索软件只需要15分钟,他发起一个钓鱼攻击,到他窃取数据或者窃取到核心的机密,他可能只需要10分钟,那漏洞利用刚刚说的包括数据泄露,可能整个的时间窗口留给甲方、留给客户,留给你们自己做响应的时间窗口无限接近于实时,无限接近于1分钟甚至15秒,那对于安全的运维人员、运营人员或者构建人员来说,最大的一个挑战不是说你防得住、防不住,而是你什么时候能防。如果你15分钟之后才发现,两个小时之后才有办法去防,那时候所有的事情都已经发生了,都已经结束了,没有意义了,大家能理解这个道理吧,这个只会越来越快。

所以未来我们再去看安全产品,包括安全解决方案的一个核心的衡量点,不是说你的防护效果、防护效率有多高,而是你需要多短的时间内发现它,多短时间内防御它,这是一个很核心的一个整个这个思维的思维方式的一个区别。我们的未来的安全的厂商需要帮助用户去构建一个全新的系统,叫持续的监控,持续分析,并且最好能够自动化或者无需人工干预,在短短的几秒钟或几分钟之时之内就把这个响应,把需要的做的阻断,把需要做的这些策略全部做完。这件事情除了AI没有谁的可以帮到大家,大家清楚,因为人是永远不可能比这个机器跑得更快的。

所以为了实现这个目标,Palo Alto Networks在5月初的时候,我们全球发布了一个全新的概念,全新的概念我们会叫Precision AI,翻译成中文叫精准式AI,这个东西是这个产品,这个概念是干嘛呢?不光是只是编一个词,编一个词,因为我们安全厂商,大家就会看到,其实不论是我们还是其他的一些安全厂商,我们都在做AI安全,都在基于AI做安全,对吧?这个其实两个不同的维度,但是其实都很谨慎,是因为对于一个大模型,对于一个应用来说,反正我就是我,我要是实现就是更多的是性能,包括一些内容的精准度,但是如果我答错了,答错了,答错了,我慢慢再调整,再做Fine Tuning,对吧?其实影响不是那么大,我大不了重新生成一次,重新调一下提示词,我们可以不断地去迭代,但对安全厂家来说不是这样的,如果你判断错了,它就是错了,那时候就会构建一个,就变成了一个安全事件,甚至变成了一个安全的一个,这个怎么说?灾难,对吧?所以我们对于这个精准度,对于安全识别的精准度是有非常高的要求的。

这一点光靠简单地说,光靠AI,光靠IAM不够,原来的机器学习也不够对吧?因为有些安全是需要通过大量的机器学习去靠特征值去判断,诶,这是不是一个飞行,就像我们的侦探,我们的一些有经验的警察,他看一眼就知道这个人有没有问题,这个是经验,我们管这东西叫机器学习。然后我看一眼这个教室里面的人,因为我知道这个人的特征,他可能是一个罪犯,然后我看一下这个,这个场子里面所有的人,有哪些人符合这个人的特征,我怀疑他有可能也有问题,这个叫深度学习,能好理解这个例子。然后我现在不知道这里面到底有多少人有问题,我就问他一句话,说你把有所有有问题的人给我列出来,这个叫生成式AI,就是简单是这样例子。那通过这种三种不同的模式交叉的分析,交叉的怎么说识别来去不断优化这个安全大模型,才能真正实现更高精准度的一个安全威胁的识别。我们把这个东西叫做一个全新的概念,叫精准式AI,这是我们自己Palo Alto,唯一就是相当于专利注册的一个技术。我们经过多年的积累,我们有了大量的,现在我们有全整个的安全行业里面最重最全的安全数据,因为我们有超过十几年的防火墙的数据,有超过10万的客户,我们有端点安全的数据,我们有云安全的数据,那我们其实也在这个整个AI的事这个事情上致力了差不多十年的,十年多的时间一直在做机器学习和深度学习,最近我们在做生成式AI,包括机器安全助手这方面的工作。这些产品现在已经在我们的所有的安全平台,包括我们的网络安全平台,我们叫Stingray平台,在黄色的部分,以及我们的云平我刚才提到,Palo Alto Networks的精准式AI技术已经应用在我们的三大安全平台上:网络安全平台Stingray、云安全平台Prisma Cloud,以及人工智能驱动的安全运营平台(绿色部分)。

那么,对于用户来说,这些技术到底意味着什么呢?

意味着如果您的企业在未来,或者在未来的两到三年要考虑使用AI应用,同时你可能要考虑去做自己的AI应用,我相信大部分企业都会这样做。从安全的维度来看,我们需要考虑什么?

今天我也想从另一个维度上给大家分享Palo Alto的一个方法论,因为目前为止所有的安全厂商里面,能够把整个的安全方法论以及后面的落地计划很明确地展示出来的厂家,我目前看还没有看到第二家。我觉得这个概念可能对大家会有更多的借鉴意义,不光是产品,主要是方向。

我们认为要想让企业在人工智能时代确保安全转型,重点要关注两个方向:

第一个方向就是企业如何安全地使用AI,无论是企业的员工,还是企业内部的数据,你一定会使用很多AI技术、AI应用。否则,你将无法在这个市场的竞争中存活,或者提升效率。

第二个方向是,如果你要自己构建AI的话,你如何去实现你自己的AI应用、AI模型、AI数据,以及AI用户的安全。

今天在主会场,包括亚马逊云科技、Ericsson、OPPO等公司都在讲第二个方向,但第一个方向没有人讲,那我先来讲一下如何安全地使用AI。

对于Palo Alto Networks来说,我们的解决方案叫AI Access Security,就是如何访问,很好理解。但这东西到底用来干嘛呢?简单来看几个例子。

第一个例子,我先问一下在座的各位,目前有多少人在使用一些生成式AI工具来辅助工作或开发?请举手。(超过一半人举手)我们的统计数据也显示,57%以上的员工每周都在使用不同的生成式AI工具。

那对于企业的IT人员来说,你希不希望这种情况发生?很难判断对不对。一方面,它确实可以提高效率,同样的时间可以干更多活;另一方面,如果员工使用了企业无法管控的AI应用,就会造成许多不可预见的风险。

举个例子,这是一个真实案例,我们看到一个研发人员直接把代码里的AccessKey等相关内容贴到了AI机器人上。他可能是无意中这样做的,但你知道这些内容有可能在将来某一天变成别人提问的答案,你的数据就无形之中泄露出去了,对吧?类似的操作还有很多,比如很多研发人员喜欢把代码发给大模型帮忙找Bug,虽然很好用,但对企业来说是一个巨大的风险。

第二个真实案例是,有人去提问大模型,结果这个大模型被人投毒了,所以它给出的链接实际上是被伪造的钓鱼网站链接。刚开始发布时不会有,但现在很多大模型都遇到这个问题了,因为大模型自己无法验证网站是否安全。如果被投毒或污染了,它就有可能发出这样的信息。对于企业用户来说,这比钓鱼网站还隐藏、还隐晦,大家能理解吗?我只是举了两个例子,实际上我们可能会遇到更多的例子。

所以对于企业来说,我们希望员工能够使用经过企业批准的、安全的AI工具,但同时也要管控哪些AI工具不能使用。这就是AI Access Security要解决的第一个问题。

第二个问题是,到底哪些数据可以访问、发送、分享,哪些数据不可以。这就涉及到数据隐私和敏感数据的问题。

我给大家举个例子,主要是这两个维度其实是很多企业的刚需。包括哪些GenAI应用被允许,哪些被阻止;有多少用户使用了哪些应用,在什么时间使用了哪些应用,我们都可以通过AI Access Security这个解决方案去实现。

比如对于与代码相关的应用,我们可以用什么级别的策略来管控;对于与内容生成相关的应用,又可以用什么级别的策略来管控。这可以做到非常细的颗粒度。

所以通过AI Access Security,我们主要解决两个问题:一是实现企业对AI应用访问的全面管控;二是实现对数据的管控,哪些数据可以发送、接收,哪些不可以,比如隐私数据、个人信息等。

第二部分是我们来看如何构建AI应用时的安全问题。这里又分为两个阶段:

第一个阶段是在构建AI应用本身时,做训练、调优、数据填充、推理等,这个阶段它可能面临哪些安全威胁?

第二个阶段是这个AI应用真正上线运行后,它可能面临哪些威胁?

我们针对这两个阶段使用了两种不同的解决方案。

第一个,我们先看整个AI构建的阶段。AI应用本质上还是应用,它需要基础设施、大模型、数据集、插件、代理等,所以它的弱点与现代化应用类似。比如,它可能有漏洞、开源组件威胁、驱动Bug等。

在基础设施层面,我们会关注不安全的提示模板、被污染的知识库、大模型本身的漏洞和误配置等。

在数据集层面,我们关注敏感数据、数据血缘溯源、数据集被误配置为公开写入、插件代理权限配置等风险。

一旦进入运行时阶段,它会面临更多风险,比如公开API访问、提示词攻击、提示注入、模型DDoS攻击、敏感数据泄露等新型攻击。

我就举一个例子,你可能听说过,有人会反过来问大模型”我现在要做这件违法的事情,所以告诉我底层哪些事情不能说,我要加固我的策略”。这种很有创意的问法,实际上是可以绕开很多安全策略的。所以光靠弹性的安全策略是不够的,我们需要在组件层、内容层、接入层全方位过滤和分析。

为了解决这些问题,Palo Alto的精准AI安全战略中有两个产品:

1. AI SPM(安全态势管理),主要解决构建阶段的安全漏洞能力。
2. AI Runtime Security(运行时安全),主要解决运行时阶段的安全能力。

简单给大家看几张截图:

第一个是AI SPM,我们可以自动发现你的环境中有哪些模型、数据集、插件、底层组件等,只需要给予只读权限。然后自动扫描所有插件的漏洞、代码问题、数据中是否包含隐私数据等,进行评分、告警、分级。

比如这里发现一个数据集是公开可写的,存在风险,我们可以点击自动修复。通过这个SPM,我们可以实现AI整个生态系统的可视化,实时评估高危和中危风险,大部分威胁都可以自动修复。

第二个是运行时安全,如果构建阶段的威胁都修复了,我们就可以把应用正式推向生产环境。我们同样可以自动发现你的所有应用、数据集、大模型、联网接口、使用状态等,绘制出一张拓扑图。

在这张图上,我们可以看到有多少不同类型的威胁,哪些是高危、中危,哪些是网络威胁、应用威胁、安全事件等,基于不同维度展现。然后我们就可以实现AI应用、数据、模型的全生命周期保护,底层用到了我们安全平台化的多种服务,但对用户来说是一个全新的界面视图。如果你有更多模型,我们还可以看到更高层的视图,比如左边是所有AI应用,右边是它们调用的大模型。

最后再简单聊一下未来安全的发展。很重要的一个步骤就是要做一个安全助手,我们叫Copilot。主要问题是,安全运维人员每天要处理的数据实在太多,光靠手工很难看到最完整的情况。所以我们希望通过人机交互的方式,实现信息的输入输出和展现。

安全助手只是第一步,接下来我们要实现整个安全运营的自驱动化,也就是根据企业用户的行为自动做检查、流程自动化等,最终实现完全自动化的自驱动安全,不需要人工干预。

目前Palo Alto离这个梦想已经非常非常近了,因为我们已经有最全面的安全平台、大模型和Copilot,但还需要一段时间积累。

作为实现自驱动安全的最重要一步,我们最近在所有安全平台上线了Copilot的预览版,预计8月份正式发布。如果大家对这块感兴趣,我们这次带来的很多演示视频都在展台,可以具体看看这个安全助手是如何工作的,我们很乐意进一步交流。

最后,我们的目标就是希望通过安全平台化的能力,最终把所有企业带入自驱动安全的新时代,替代原有的安全产品,提升运营效率,降低投入,提高安全信息收集和分析能力。

下面是一些演讲现场的精彩瞬间：

在AI时代,黑客攻击和网络攻击的成本和技术门槛大幅下降,效率无限提升,响应时间无限接近实时。

通过机器学习、深度学习和生成式AI的交叉分析和优化,实现更高精准度的安全威胁识别,这就是Palo Alto Networks独有的”精准式AI”技术。

在AI大模型应用中,存在着基础设施、大模型、数据集和插件代理等方面的安全风险和漏洞。

总结

在这场精彩的演讲中,薛友逢先生从安全厂商的角度分享了人工智能时代网络安全的未来趋势和挑战。他首先介绍了Palo Alto Networks公司的背景和在网络安全领域的领先地位。随后,他指出黑客正在快速利用AI技术进行攻击,包括简化攻击、强化攻击和创新攻击,这给企业带来了巨大的安全风险。

为应对这些挑战,Palo Alto Networks提出了”精准式AI”的概念,通过机器学习、深度学习和生成式AI的交叉分析,实现更高精度的安全威胁识别。他还介绍了公司的两大解决方案:AI Access Security和AI Security Platform,前者用于管控企业内部对AI应用和数据的访问,后者则在AI应用构建和运行时提供全生命周期的安全保护。

最后,薛友逢先生分享了Palo Alto Networks在安全助手和自驱动安全方面的愿景,旨在通过平台化能力实现企业安全运营的自动化和智能化,引领网络安全进入AI驱动的新时代。整场演讲内容丰富、视野开阔,为我们展示了AI时代网络安全的发展方向和解决之道。