要想生成式AI落地，先搞定数据泄露危机

在诸多2024年技术趋势预测中，AI仍是绝对的主角。

一方面，去年生成式AI的井喷现象只是开端，进一步的技术深化、场景落地才是入场资本的角逐关键。另一方面，根据Gartner技术成熟曲线，目前AI正处在“期望过高的顶峰”，即将进入“幻灭的低谷”，此时才真正需要开展工作、进行实战。

在这个发展阶段，企业要考虑AI作为工具甚至“合作伙伴”的价值，更要警惕技术深化的负面效应，如安全漏洞、隐私风险和作为攻击手段的危险性等等。

由此，建立AI与企业信任也将成为一项新挑战。

企业安全优势，在于谁拥有最先进的生成式AI？

近些年，与AI同样火热的还有企业数字化转型或重塑大潮。

到2025年，超过90%的大企业将完成数字化转型的关键技术投资。这个结果，可以说是企业业务增长和发展的必然，同时在如今的商业环境下，企业数字化的安全性、风险性不得不考虑进去。

过去三年，大型数据泄露的数量、规模和成本持续增加，报告经济成本损失达到100万美元的比例从27%上升到36%。而现在，生成式AI的加入有望打破这一尴尬局面。

《2024年全球数字信任洞察》调查显示，69%的高级管理人员表示，他们的组织将在未来12个月内使用生成式AI进行网络防御。这可以弥补网络安全团队的不足，减少因人为主导的网络攻击数量和复杂性造成的损失。

▲ 资料来源：普华永道，《2024 年全球数字信任洞察》

比如，Microsoft Security Copilot打算为安全态势管理、事件响应和安全报告提供生成式AI功能；Google则宣布推出适用于类似用例的Security AI Workbench；Crowdstrike、Zscaler等安全供应商也宣布了使用生成式AI功能……

显然，这些厂商可以代表一大趋势，但要切切实实看到防御GPT的广泛使用效果，还需要一定时间耐心等待。

从目前的来看，生成AI入驻网络安全防御网，在三大领域前景最可观：

1、威胁检测和分析。生成式AI的主要价值在于主动监测漏洞、快速评估风险程度，并提供经过验证的防御和补救选项。得益于大量数据“喂养”，其能够帮助企业安全团队厘清复杂威胁真相，提供缓解策略等。

2、网络风险和事件报告。生成式AI可以借助自然语言处理，将技术数据转化为分析成果，方便理解、制定措施。其能用于协助企业安全团队完成事件响应报告、威胁情报、风险评估等，让这些材料的呈现更便捷，同时具备更高准确性。

3、自适应控制。确保云和软件供应链安全十分重要，其中生成式AI能推荐、评估和起草根据组织的威胁概况、技术和业务目标量身定制的安全策略。比如，在零信任环境中其可以自动化、持续地评估和分配端点的风险评分，并审查访问请求和权限。

网络威胁同样被技术驱动

除了讨论生成式AI作为防御层的客观前景，业内关于其可信程度也存在很大的争议。

IBM发布的《2024年五大趋势》提到，尽管生成式AI已经成为“时代精神”，但超过60%的受访组织尚未建立一致的企业级生成式AI方法。也就是，企业普遍对如何规范、安全使用生成式AI尚存疑虑。

这意味着，尽管多数看好生成式AI趋势将持续增长，但在2024年的企业推广中，其也很可能遭遇“刹车”。

▲ 资料来源：IBM商业价值研究院，《2024年五大趋势》

像是72%的受访企业高管表示，出于伦理方面的顾虑，他们愿意放弃生成式AI的好处；69%的受访高管预计采用生成式AI会导致监管罚款；61% 的受访CEO表示，对数据沿袭和溯源的担忧将成为采用生成式AI的障碍；57%的受访CEO表示数据安全也是一项障碍，而45%的受访CEO则提到了数据隐私……

此外不得不承认，作为一把双刃剑，生成式AI也加速了更多威胁的产生：

自动化攻击：生成攻击脚本或指令，用于自动执行攻击行为。这些自动化攻击可以快速扩散并造成大规模的破坏。

网络钓鱼攻击：模仿真实发件人或者机构，通过个性化钓鱼邮件或短信骗取用户的个人信息或登录凭据。

恶意软件生成：不法分子通过其制造新的恶意软件代码，使传统的杀毒软件难以检测到，进而窃取加密数据并勒索赎金等。

虚假信息传播：生成逼真的虚假信息，如虚假新闻、广告等误导用户，影响公众舆论和决策。

深度伪造：利用大众的网络信息保护意识不足“钻空子”，以伪造图像、音频和视频用于诈骗或诽谤等。

结语

正如Splunk 战略顾问Matt Swann所言，人工智能、机器学习在网络安全和攻击方面的使用正在增加，攻击者和防御者之间的“猫鼠游戏”预计将会加剧。

而为了增加这项技术的积极价值，政府、企业和学术界应加强合作，制定相关政策和规范，确保生成式AI的发展符合伦理和法律的要求。厂商和引进企业则要始终保持警惕和谨慎，加强对生成式AI技术的研究和探索，提高其智能水平、可控性、安全性等。

总而言之，任何技术都有其两面性，以开放的心态接纳，同时确保其不偏离整体社会利益，才能真正实现技术的良性发展，推动人类生产生活的进步。