深入了解亚马逊云科技Amazon Bedrock安全架构

关键字: [reInforce, Amazon Bedrock, Amazon Bedrock Security, Data Privacy Controls, Model Access Management, Fine-Tuning Models, Guardrails For Prompts]

本文字数: 1400, 阅读完需: 7 分钟

导读

亚马逊云科技首席解决方案架构师拉杰·博泰克深入探讨了Amazon Bedrock的安全架构。在演讲中,他阐释了Bedrock在使用生成式人工智能模型时如何管理数据安全、网络访问和应用程序级别的安全性。具体而言,博泰克解释说,客户数据受到保护且不会与模型提供商共享,加密是通过亚马逊云科技KMS实现的,访问控制则通过亚马逊云科技IAM和网络控制(如VPC PrivateLink)来实现。该演讲重点介绍了Bedrock如何实现生成式AI模型的安全部署、利用客户数据对模型进行微调同时维护数据隐私,以及实施防护措施以防止模型生成不当内容。

演讲精华

以下是小编为您整理的本次演讲的精华，共1100字，阅读时间大约是6分钟。

在生成式人工智能领域,Amazon Bedrock作为一项开创性的服务,提供了一个完全托管的无服务器环境,使客户能够通过单一API利用来自领先供应商的基础模型的能力。Bedrock拥有多种基础模型,可满足从图像到文本、图像生成、文本创作到代码生成等广泛的用例需求。值得注意的是,客户可以从这些模型的不同”尺码”或配置中进行选择,从而量身定制解决方案以满足特定需求。

Bedrock的一大优势在于其健全的安全架构。当客户利用Bedrock时,他们不会进行外部第三方API调用。相反,Amazon云科技已从供应商那里获得了模型权重(即模型背后的工件),并将其作为一项Amazon云科技服务进行管理。这种方法确保客户可以利用熟悉的安全控制措施,例如身份和访问管理(IAM)、网络控制、日志记录、监控、PrivateLink和密钥管理服务(KMS)密钥,就像使用任何其他Amazon云科技服务一样。最关键的是,当与模型交互时,客户数据永远不会离开Amazon云科技生态系统。

Bedrock进一步保护客户数据,确保它永远不会用于训练基础模型,并且所有模型供应商都无法看到客户提供的提示或响应。数据在传输过程中使用TLS 1.2进行加密,在静态时使用Amazon KMS进行加密,客户也可以选择使用自己管理的密钥。针对个别客户的微调模型会使用客户的KMS密钥进行加密和存储,只有客户才能访问底层定制模型。

Amazon云科技身份和访问管理(IAM)作为调用应用程序中大型语言模型(LLM)的凭证提供程序,确保了安全的访问控制。Bedrock支持各种合规框架,包括GDPR、HIPAA、PCI和FedRAMP Moderate,使客户能够满足严格的监管要求。虽然Bedrock默认不记录任何信息,但我们鼓励客户记录他们的提示、请求、令牌消耗、模型使用情况、推理延迟和API使用情况,以实现可审计性并深入了解最终用户如何使用这些模型。这种日志记录可以无缝集成到CloudWatch和CloudTrail中。

贝德罗克(Bedrock)提供两种模型部署类型:按需计算和预配置容量计算。按需计算是面向所有客户的通用API,而预配置容量计算则是针对单个客户的特定部署,适用于高吞吐量或大规模使用场景。这两种部署类型都具有一些共同特点,例如不记录推理请求、不用于训练基础模型、在由贝德罗克服务团队管理的贝德罗克服务账户中进行部署,以及不会在亚马逊云科技之外共享模型。

在向贝德罗克发出API调用时,客户可以选择各种网络路径,包括NAT网关、Internet网关、Direct Connect、PrivateLink和VPC端点,从而实现安全的私有网络连接。在幕后,贝德罗克使用两种不同的账户:运行时推理账户和模型部署账户。运行时推理账户处理初始API调用,确定适当的模型,检查权限并管理日志记录。模型部署账户托管实际的模型权重,其中按需计算模型共享一个部署,而预配置容量模型则拥有专用部署,具有特定的模型ID或亚马逊资源名称(ARN)。

对于微调模型,贝德罗克会从相关的模型部署账户触发SageMaker训练作业。它会从客户的亚马逊简单存储服务(S3)存储桶读取训练数据,同时遵守指定的虚拟私有云(VPC)网络控制,如子网和安全组。一个弹性网络接口(ENI)被放置在客户的VPC中,以通过客户的网络路由S3命令。微调后的模型工件将被写入模型部署账户中的另一个存储桶,确保不会将任何客户数据写回客户的S3存储桶。

亚马逊云科技认识到在使用贝德罗克构建应用程序时保护提示和响应的重要性,因此为亚马逊贝德罗克引入了防护措施。防护措施允许客户用自然语言指定底层基础模型不应该做什么。这是通过各种组件实现的:拒绝主题、内容过滤器、敏感信息处理和词语过滤器。

拒绝主题功能允许客户通过提供示例短语来彻底拒绝某些主题,从而防止模型参与这些主题。举例来说,一家医疗机构建立预约助理时,可能不希望模型提供医疗建议,而一家金融公司则可能禁止模型提供受托人建议。

内容过滤器由亚马逊云科技(Amazon Web Services)构建,遵循负责任的人工智能支柱,涵盖种族主义、性别歧视、提示注入、犯罪活动等领域。客户可根据自身需求调整过滤器强度,从严格过滤到更宽松的方式。

敏感信息处理允许客户掩盖或阻止34种预定义的个人身份信息(PII)实体,如姓名、信用卡号码(最多16位数字)、社会安全号码(最多9位数字)和健康保险号码。此外,他们可以使用正则表达式指定自定义敏感信息,以保护组织特定的客户信息。

词语过滤器允许客户阻止特定词语、短语、竞争对手名称、脏话,或利用预建的脏话检查器,确保模型不会参与不当内容。

当收到提示时,Bedrock会触发防护栏,根据指定的过滤器进行检查。如果提示或模型的响应触发了防护栏,则会提供一个预设的响应,而不是实际输出。这允许客户在应用程序级别实施安全控制,防止模型产生有害行为或暴露敏感信息。

例如,一家金融服务公司可以利用Bedrock构建生成式人工智能应用程序,用于客户服务或财务咨询,同时确保模型不会提供受托人建议或讨论敏感的财务信息或竞争对手。通过利用防护栏,该公司可以阻止特定主题、掩盖敏感数据(如信用卡号码或社会安全号码),并过滤掉脏话或不当内容。

同样,一家医疗保健提供商可以使用Bedrock开发虚拟助理,用于预约安排或患者教育,同时防止模型提供医疗建议或暴露受保护的健康信息(PHI),方法是掩盖或阻止相关的PII实体。

在不断演进的生成式人工智能领域,Amazon Bedrock矗立为创新的引路明灯,为客户提供安全托管的环境,以便利用来自领先供应商的基础模型的强大功能。凭借其健全的安全架构、合规支持、微调能力以及创新的防护措施,如保护提示和响应,Bedrock使各行业的客户能够构建前沿的生成式人工智能应用程序,同时坚守数据隐私和安全性的最高标准。

下面是一些演讲现场的精彩瞬间：

在这20分钟的会议中,我们将探讨数据安全、数据管理、网络传输,以及在使用亚马逊云科技上的Bedrock和生成式AI时如何保护应用程序级别的安全性,包括个人身份信息(PII)和保护健康信息(PHI)等受保护信息。

Bedrock并非一个大型语言模型,而是一种帮助客户加速开发生成式AI应用程序的服务。

通过Bedrock控制台,客户可以精细地控制对AI模型的访问权限,确保符合数据主权和合规性要求。

其中最为相关的一个功能是,它可以屏蔽或遮蔽34种个人身份信息(PII)实体,如姓名、信用卡号、电话号码、社会安全号等,确保敏感信息的安全。

另外,通过词语过滤器,客户可以设置不希望模型生成的词语或短语,如竞争对手名称、不当用语等,确保输出内容符合要求。

因此,非常感谢大家今天抽出时间参与会议。

总结

亚马逊 Bedrock 是一项全面托管的服务,旨在加速生成式人工智能应用程序的开发。它为客户提供了访问来自领先供应商的各种基础模型的权限,使其能够通过单一 API 利用这些模型。Bedrock 确保采取了强大的安全措施,包括数据加密、网络控制以及符合行业标准。

该服务采用安全架构,在亚马逊云科技内托管模型权重,并确保客户数据与模型供应商隔离。它为客户提供了微调功能,允许他们使用自己的数据定制模型,同时遵守严格的数据隐私和网络控制。此外,Bedrock 引入了”护栏”功能,使客户能够定义自然语言规则,用于过滤和掩盖敏感信息、阻止特定主题以及实施负责任的人工智能原则。

总的来说,Bedrock 使客户能够利用生成式人工智能的强大功能,同时保持安全和合规的环境,解决了数据隐私、应用程序级安全性和负责任人工智能实践等关键问题。