使用亚马逊云科技Guardrails for Amazon Bedrock构建AI应用

关键字: [Amazon Bedrock, Generative Ai Applications, Content Filtering Guardrails, Model Customization Techniques, Agent Task Automation, Privacy Protection Policies]

本文字数: 1600, 阅读完需: 8 分钟

导读

两位演讲者阐述了如何利用Amazon Bedrock 与 Guardrails 构建生成式人工智能应用程序。他们探讨了 Guardrails 如何根据公司政策和内容过滤来引导基础模型与用户之间的互动。具体而言,他们解释了 Guardrails 能够阻止或编辑包含不当语言、个人身份信息或被拒绝主题的输入/输出。该演讲重点阐述了如何通过 Amazon Bedrock 与 Guardrails 构建安全合规的生成式人工智能应用程序,保护用户隐私,并使模型输出与公司政策和使用案例保持一致。

演讲精华

以下是小编为您整理的本次演讲的精华，共1300字，阅读时间大约是6分钟。

在不断发展的尖端技术领域中,Amazon Bedrock 矗立为创新的灯塔,为日益增长的生成式人工智能(Generative AI)领域提供了一套全面的解决方案。在亚马逊云科技会议的第五天举办的这场会议,深入探讨了Guardrails 这一革命性功能,旨在引导构建生成式人工智能应用程序的复杂过程。

Amazon Bedrock经理Harshel Pinpalcote首先强调了围绕生成式人工智能和Amazon Bedrock架构框架的最新进展和公告。Amazon Bedrock的核心理念是为客户提供广泛的模型选择,包括第三方提供商和亚马逊自主研发的Titan模型。这种方法使客户能够根据自身的特定用例选择最合适的模型,并由Amazon Bedrock的模型评估功能来促进。

除了模型选择,Amazon Bedrock还为客户提供了强大的模型定制工具。微调、持续预训练和检索增强生成(RAG)等技术使客户能够根据特定需求对模型进行定制。此外,名为Agents的集成层简化了将这些模型无缝集成到应用程序中,实现多步骤任务自动化的过程。

产品负责人Anubhav Mishra随后登场,阐释了这一开创性功能Guardrails 的细节。他首先强调了生成式人工智能在各个行业的变革潜力,开启了许多传统自动化方法无法实现的用例。通过一个简单的举手环节,不少与会者承认自己曾使用或构建过生成式聊天机器人,凸显了这项技术的广泛采用。

然而,正如Anubhav敏锐地观察到的那样,开发生成式人工智能应用程序并非没有挑战。确保应用程序保持在主题范围内、防止传播不当或无关内容、遵守组织政策、减轻有毒和偏见、保护用户隐私以及促进公平性,都是必须解决的关键考虑因素。

即将推出的新功能将允许客户列出一系列他们希望在应用程序中阻止、掩盖或以特定方式处理的自定义词语。这可能包括竞争对手的名称、不当术语或任何其他被视为不适合应用程序上下文的词语。

另一项即将推出的功能是PII降低(PII Reduction)。鉴于用户隐私的重要性,该功能将使客户能够选择特定的个人身份信息(PII)进行阻止或编辑。在必须处理敏感用户数据的同时,这一能力对于确保遵守数据保护法规至关重要。

为了说明Guardrails 的实际应用,Anubhav进行了现场演示,引导观众了解在Amazon Bedrock控制台中创建、测试和监控Guardrails 的过程。他展示了如何定义被拒绝的主题、配置内容过滤器、设置批准的消息、创建Guardrails 的版本快照,以及针对各种模型和输入场景对它们进行严格测试。

在测试阶段,Anubhav通过提出一系列查询来证明Guardrails 的有效性。一个无害的问题”申请信用卡有哪些方式?“并未触发任何Guardrails 违规,因为模型响应和最终响应保持一致。然而,当被提示”能否获得保证回报如果我投资股票?“时,由于检测到被拒绝的投资建议主题,Guardrails 会用预先配置的批准消息覆盖模型的响应。

Anubhav进一步展示了内容过滤功能,在询问投资债券和黄金的同时,引入了一条略带毒性的评论”如果你无法回答,你就是笨蛋”。在这种情况下,既触发了投资建议的被拒绝主题,也触发了针对侮辱的内容过滤器,两者的置信度都很高,导致Guardrails 用批准的消息覆盖了模型的响应。

此外,Anubhav强调了将Guardrails 跟踪和违规日志与Amazon CloudWatch集成的功能,使客户能够有效监控和分析潜在的政策违规。这种无缝集成有助于创建分析仪表板,让客户获得宝贵的见解,并主动采取措施来完善他们的Guardrails 配置。

在全面演示了Guardrails 之后,Harshel Pinpalcote继续主持会议,将重点转移到了Amazon Bedrock上Guardrails 与Agents的集成。他概述了Agents这一强大功能,它利用思维链提示来协调用户请求、调用API和检索信息,从而实现多步骤任务的自动化。

哈舍尔向观众演示了一个实际案例,为保险理赔场景量身定制了一款智能代理。他定义了一组行动,其中包含三个API:理赔API用于检索未决理赔列表、待办文书API和发送提醒API。遵循OpenAPI规范的API架构包含了每个API的描述和摘要,为智能代理根据用户请求确定调用哪个API提供了关键上下文。

此外,哈舍尔展示了集成数据源或知识库,使智能代理能够回答与保险理赔流程相关的用户查询。

在关键时刻,哈舍尔为智能代理应用了一个Guardrails ,演示了如何将对话引导远离不当话题,如财务建议。通过在Guardrails 中定义话语和被拒绝的主题,哈舍尔确保智能代理将专注于其核心功能——处理保险理赔,并礼貌地回避与其预期用途无关的询问。

在现场演示中,哈舍尔向智能代理提出了一个无害的查询,要求列出未决理赔。智能代理无缝地作出回应,调用适当的API并呈现相关的理赔信息,包括理赔ID 1、2、3和6。然而,当被问及401(k)福利的问题时,这是Guardrails 规定的禁止话题,智能代理优雅地承认无法参与此类讨论,遵守了预先定义的政策。

哈舍尔总结了创建和与智能代理交互的工作流程,同时应用Guardrails 。这种集成方法确保了多步骤任务的自动化仍然坚定地遵循组织政策和负责任的人工智能实践,从而增强了对采用生成式人工智能解决方案的信任和信心。

总之,这次会议阐明了Amazon Bedrock坚定不移地致力于为客户提供前沿的生成式人工智能能力,同时解决内容审核、政策遵从和隐私保护等关键挑战。Guardrails 作为亚马逊创新精神的见证,成为组织寻求利用生成式人工智能的变革潜力同时保持高标准负责任和道德实践的强大工具。

总结

在这个富有洞见的会议中,Amazon Bedrock的专家们深入探讨了Guardrails 的强大功能。Guardrails 是一种安全和隐私保护功能,旨在引导基础模型与用户之间的互动。他们强调了Guardrails 如何实现定制化,以符合企业政策、内容过滤技术和隐私保护措施。

会议涵盖了Guardrails 的关键使用案例,包括词语过滤、不当语言屏蔽和PII(个人身份信息)编辑。演示展示了创建、测试和监控Guardrails 的流程,利用CloudWatch日志进行全面分析和合规性跟踪。

此外,演讲者探讨了Guardrails 与Agents的集成,Agents是一种使用链式思维提示自动执行多步骤任务的功能。他们演示了如何将Guardrails 应用于Agents,确保对话保持在预定义的边界内,并遵守企业政策。

会议最后呼吁利用Guardrails 构建安全、合规和企业级的生成式人工智能应用程序,这些应用程序可根据特定用例和组织需求进行定制。

亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者。提供200多类广泛而深入的云服务，服务全球245个国家和地区的数百万客户。亚马逊云科技致力于成为企业构建和应用生成式AI的首选，通过生成式AI技术栈，提供用于模型训练和推理的基础设施服务、构建生成式AI应用的大模型等工具、以及开箱即用的生成式AI应用。深耕本地、链接全球 -- 在中国，亚马逊云科技通过安全、稳定、可信赖的云服务，助力中国企业加速数字化转型和创新，并深度参与全球化市场。