生成式人工智能时代的云安全（由Sysdig赞助）

生成式人工智能时代的云安全（由Sysdig赞助）

关键字: [Amazon Web Services re:Invent 2024， 亚马逊云科技， 生成式AI， Cystic Sage， Generative Ai Era， Cloud Security， Ai Workloads， Active Risk Detection， Ai Security Solutions]

导读

人工智能激发了想象力和创新，但同时也代表了威胁行为者的新风险前沿。组织必须找到方法既保护其人工智能实施，又利用人工智能的力量来增强防御。在这个简短演讲中，Sysdig讨论了生成式人工智能如何改变云安全格局。探讨如何增强使用Amazon Q和Amazon Bedrock等解决方案的人工智能部署的安全性，跟上新兴的人工智能治理和合规法规，并利用人工智能来提高安全团队在面对不断演变的威胁时的效率。本演讲由亚马逊云科技合作伙伴Sysdig为您带来。

演讲精华

以下是小编为您整理的本次演讲的精华。

在引人入胜的 亚马逊云科技 re:Invent 2024 活动中，Sysdig 的重要人物 Eric Carter 登台发表了一场关于人工智能(AI)时代云安全的富有洞见的演讲。Carter 戏谑地将此次活动重新命名为“AI Reinvent”(人工智能重塑)，承认人工智能技术对行业产生了深远影响。

Carter 的主要目标是阐明确保人工智能工作负载安全的复杂过程，以及利用人工智能的力量来加强安全运营。作为 Sysdig 联盟团队的成员，他与 亚马逊云科技、Red Hat 和 Cribble 等知名技术合作伙伴合作，打造全面的解决方案，将 Sysdig 的云安全专业知识与他们各自的产品无缝集成。

Carter 强调了人工智能领域安全的至关重要性，指出人工智能应用程序与敏感和关键任务数据密不可分，需要高度警惕。他精辟地将人工智能描述为“风险和防御的新前沿”，阐明了这一变革性技术的双重性质。Carter 强调，威胁参与者几乎与“好人”一样多，甚至更多地利用人工智能技术生成恶意代码片段、破坏访问密钥和增加云账单。

另一方面，防御者必须利用人工智能的力量来增强安全态势，以前所未有的速度做出响应，并保持对手的战略优势。Carter 强调，防御者必须比对手更快，因为威胁参与者通常会快速执行恶意活动，而不进行广泛测试，与安全团队对人工智能模型进行严格验证形成鲜明对比。

Carter 深入探讨了 Sysdig 客户在部署人工智能工作负载时遇到的挑战，揭示了这些障碍的多方面性质。公开暴露人工智能系统成为一个紧迫问题，这种现象有时是有意的，但有时也是无意的。此外，积极试图入侵人工智能系统也构成了重大风险，需要强有力的监控和检测机制。

此外，“影子人工智能”部署的扩散，即未经授权或未记录的人工智能实施，构成了一个巨大挑战。客户意识到某些人工智能实施发生在他们不知情的情况下，使他们无法实施必要的安全措施，如漏洞扫描、态势监控和威胁检测。

值得注意的是，Carter 强调了围绕负责任人工智能使用的法规出现，特别是在欧洲。随着组织采用人工智能解决方案，他们必须遵守复杂的监管环境，遵守 Bedrock 和 Q-Lever 等规范，这些规范规定了人工智能技术的道德和负责任部署。

为了有效应对这些挑战并确保人工智能工作负载的安全，Carter 概述了一个包含五个基本步骤的全面框架。首先，建立对人工智能工作负载部署的可见性是至关重要的，无论是容器化还是利用 Amazon SageMaker、Kubeflow 或 Bedrock 等服务。自动检测机制在这一过程中发挥了关键作用。Carter 提到，作为一个 SaaS 平台，Sysdig 可以观察和理解客户环境中部署的人工智能工作负载。

其次，漏洞管理成为一个关键组成部分，涉及扫描和修复人工智能工作负载中已知的漏洞。Carter 强调利用 亚马逊云科技、Snyk、Sysdig 和其他知名供应商的工具来确保强大的漏洞管理过程的重要性。

第三，态势和配置管理成为焦点，强调定期扫描和确保遵守最佳实践配置的必要性。Carter 建议至少每天扫描一次，以识别和解决任何可能允许入侵的宽松或高风险配置。

第四，主动风险检测成为框架的关键方面。Carter 倡导持续监控围绕人工智能工作负载的异常活动，如未经授权的访问尝试、意外进程或命令执行。利用 Amazon CloudTrail 日志和实时监控解决方案在这一过程中发挥了关键作用。Carter 强调，Sysdig 擅长检测主动风险，因为许多利用人工智能的狡猾对手不断试图获得未经授权的访问。

最后，一个强大的事件响应计划被视为不可或缺，因为 Carter 强调迅速缓解和响应涉及人工智能工作负载的安全事件的紧迫性。他引用 Sysdig 的研究表明，损害可能在 10 分钟或更短时间内发生，凸显了安全团队快速响应的至关重要性。

转移话题，Carter 探讨了利用人工智能进行安全运营的变革潜力。虽然他承认一些组织正在探索人工智能驱动的安全自动化，但他认识到大多数组织还没有为人工智能自主更改其环境做好准备。相反，重点是利用人工智能获得洞见、理解不断演变的威胁，并获得有效应对策略的指导。

Carter 强调超越简单的威胁总结，实现与人工智能模型的对话互动的重要性。这种方法使安全团队能够进行自然语言对话、提出后续问题、收集上下文信息，并获得缓解威胁和改善安全实践的可操作建议。

作为这一创新的先驱，Sysdig 在其人工智能驱动的安全解决方案 Sysdig Sage 中实现了多步推理和上下文感知能力。多步推理使用户能够与人工智能进行自然语言对话，提出后续问题并获得详细、细微的回应。而上下文感知则允许用户从安全产品中提供上下文，使人工智能能够提供相关见解和量身定制的建议。

Carter 赞扬了人工智能驱动安全的好处，强调它有望加快调查、应对新型威胁，并增强了解和响应跨 亚马逊云科技、Kubernetes、EKS 和 Fargate 等不同云环境中事件的信心。将人工智能作为虚拟助手，增强人类专业知识并加快响应时间，成为不断演进的网络安全领域的一个游戏规则改变者。

在结束语中，Carter 重申了他的论述的两个关键方面:确保人工智能工作负载的安全，以及利用人工智能来增强安全运营。Sysdig 的解决方案旨在通过自动检测和持续监控来保护人工智能部署，同时提供一个人工智能驱动的助手 Sysdig Sage，为安全团队提供宝贵的见解、威胁理解以及有效响应和缓解策略的指导。

Carter 引人入胜的叙述凸显了人工智能对云安全的深远影响，强调了未来的挑战和机遇。在组织探索这片未知领域时，采用将人工智能与人类专业知识相结合的创新解决方案将是加强防御、在不断演变的威胁环境中保持领先地位的关键。

下面是一些演讲现场的精彩瞬间：

Eric Carter，作为Cystic公司联盟团队的一员，介绍了自己以及在讨论与亚马逊云科技、Red Hat、Cribble等集成的云安全解决方案方面的角色。

演讲者强调了人工智能的双刃剑性质，既有善意行为者也有恶意行为者利用其能力，导致了新的风险并需要采取强有力的防御策略。

强调利用人工智能来增强安全防御、加快响应速度和更好地理解威胁的重要性。

演讲者强调了检测人工智能工作负载的可见性的重要性，尤其是那些运行在容器中的工作负载，并了解它们的实现细节。

Cystic展示了人工智能如何通过提供对威胁、其位置和受影响资源的洞见来增强云安全，从而实现更快的调查和对新威胁的响应。

演讲者强调了确保人工智能系统安全性的重要性，并利用人工智能来增强人类能力而非取代人类。

总结

作为亚马逊云科技部门的内容策展人，我总结了reInvent2024活动上关于“生成式AI时代的云安全”(由Sysdig赞助)的复杂演讲的精髓。以下是一个简洁而富有启发性的叙述性总结:

生成式AI的出现带来了新的安全挑战和机遇。虽然恶意行为者正在利用AI进行违法活动，但防御者必须采用AI来增强其安全态势。确保AI工作负载的安全性至关重要，因为公开暴露、主动风险、影子AI实施和新兴法规都构成了重大威胁。

为了确保AI工作负载的安全，组织必须优先考虑可见性、漏洞扫描、态势管理、主动风险检测和快速响应能力。Cysdig的解决方案可以自动检测AI工作负载、进行漏洞扫描、配置最佳实践、实时威胁监控和快速事件响应。

此外，生成式AI可以通过提供对不断演变的威胁的洞见、情境意识和多步骤推理，来增强安全团队有效缓解威胁的能力。Cysdig的AI驱动平台Cysdig Sage允许用户进行对话式查询，获得可操作的指导，而无需完全依赖教科书或搜索引擎。

总的来说，AI不应取代人类专业知识，而是应该增强它。通过利用AI的力量，安全专业人员可以加快响应时间、获得更深入的洞见，并加强对云端及其他领域新兴威胁的防御。

亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者。提供200多类广泛而深入的云服务，服务全球245个国家和地区的数百万客户。做为全球生成式AI前行者，亚马逊云科技正在携手广泛的客户和合作伙伴，缔造可见的商业价值 – 汇集全球40余款大模型，亚马逊云科技为10万家全球企业提供AI及机器学习服务，守护3/4中国企业出海。