re:Invent 2023 | 利用 Amazon Bedrock 构建第一个生成式 AI 应用程序

关键字: [Amazon Web Services re:Invent 2023, Amazon Bedrock, Generative Ai, Amazon Bedrock, Foundation Models, Agents, Knowledge Base]

本文字数: 1400, 阅读完需: 7 分钟

视频

如视频不能正常播放，请前往bilibili观看本视频。>> https://www.bilibili.com/video/BV1hj41157Ze

导读

随着生成式 AI 应用程序的增长，机器学习的广泛采用确实处于令人兴奋的转折点。在本论坛中，学习如何使用 Amazon Bedrock 等关键服务构建第一个生成式 AI 应用程序。获取快速入门的提示和技巧，并查看使用亚马逊云科技 AI 和机器学习构建的常见用例的参考架构示例，例如自助服务客户支持、文本分析、报告生成、电话后分析和预测趋势。

演讲精华

以下是小编为您整理的本次演讲的精华，共1100字，阅读时间大约是6分钟。如果您想进一步了解演讲内容或者观看演讲全文，请观看演讲完整视频或者下面的演讲原文。

会议开始时，演讲者Sherry Ding和Kaustubh Khanke分别介绍了他们自己的背景并概述了议程。Sherry Ding是亚马逊云科技的高级AI/ML解决方案架构师，拥有超过15年的丰富经验。她表示，他们将介绍生成式AI的基本概念、亚马逊Bedrock的功能演示、行业应用案例和客户案例研究，以及关于在亚马逊云科技上开始使用生成式AI的指导。

Sherry Ding详细解释了生成式AI的定义——这是一种能够创作出新的、原创内容的AI技术，其应用范围包括文本摘要、问题回答和图像生成。驱动生成式AI的模型被称为基础模型，它们在大量数据上进行训练，具有数十亿个参数。例如，GPT-3就拥有1750亿个参数。这使得开发人员能用极少的调整需求就能适应这些模型的广泛应用，从而大大减少了开发新的AI应用程序所需的时间。

为了更好地解释生成式AI是如何融入更广泛的AI领域的，Sherry Ding指出，生成式AI是深度学习的子集，而深度学习则是机器学习的子集，而机器学习又属于人工智能的大范畴。传统的机器学习模型将简单的输入映射到输出，而深度学习处理更复杂的输入，如图像。生成式AI在此基础上更进一步，将复杂的输入映射到更复杂的输出，例如从大型文档中提取摘要和关键见解。

此外，Sherry Ding还介绍了三种主要类型的基础模型：文本到文本、文本到嵌入和多模态。文本到文本模型（如GPT-3）接受文本输入并输出文本。文本到嵌入模型（如TITAN Embeddings）输出文本的数字表示，即嵌入。我们将在本次会议稍后部分详细探讨嵌入的概念。多模态模型接收文本输入，但以另一种数据形式（如图像）输出，例如Stable Diffusion会根据文本提示生成图像。

Sherry Ding详细描述了亚马逊在生成式人工智能领域的研究和开发情况。作为全球领先的电子商务公司，亚马逊始终致力于机器学习的创新和应用。其电子商务推荐引擎、仓库中心机器人拣选程序以及供应链预测和产能规划等方面都充分展示了机器学习的重要性。

亚马逊已通过亚马逊云科技将机器学习普及化，超过10万客户正在使用亚马逊云科技进行机器学习项目。为了满足客户对生成式AI的需求，亚马逊识别出四个关键因素，以在大规模上快速构建和部署生成式AI应用程序。这些因素已经成为指导亚马逊Bedrock等功能的重要原则。

Sherry Ding邀请Kaustubh Khanke，亚马逊Bedrock的主要产品经理，探讨在构建生成式AI应用过程中可能遇到的挑战以及Bedrock如何解决问题。Kaustubh Khanke解释道，客户可能会遇到诸如将几个协同工作的模型组合在一起或将同一模型升级到较新版本等挑战。这些问题可能导致时间和资源的浪费。此外，客户希望能够轻松地用自己的数据定制模型，同时保证安全性。

为了解决这些问题，亚马逊Bedrock于今年9月推出，提供了一种完全托管的服务。客户可以访问顶级的基础模型，如Anthropic的Claude、AI21的Jurassic-2、Stability AI的Stable Diffusion和亚马逊自家的TITAN模型。此外，Bedrock还提供了利用微调、检索、增强生成或RAG等技术定制这些大模型以适应私有数据。客户还可以创建无代码代理自动执行任务，无需手动编码，同时无需管理基础设施，因为这是一个完全托管的服务。

Kaustubh Khanke深入研究了亚马逊Bedrock的工作原理。首先，从包括亚马逊自家的TITAN模型以及Anthropic、AI21、Stability AI等公司的模型中选择一个基础模型。接下来，可以通过微调或检索增强生成来根据用户的数据定制模型。然后，可以利用Bedrock的无代码代理自动执行任务，确保用户的数据保持隐私且不会用于改进基本模型。

为了证明这一点，Kaustubh Khanke通过一个旅行公司使用的Bedrock构建的对话式机器人演示进行了展示。这个机器人能够理解复杂的请求，从公司的数据源中提取相关信息，执行预订旅行等操作，而且无需编写代码即可设置。他展示了在Bedrock控制台中轻松配置知识库和创建驱动机器人的代理是多么容易。

Kaustubh Khanke还解释了嵌入层的概念，即表示数据的数值表示，使模型能够理解单词之间的相似性。例如，猫与小猫更接近，而狗与小狗更接近。通过以这种方式比较嵌入层，模型将产生更相关和上下文的响应，而不是简单的词匹配。Bedrock提供了知识库，以轻松使用嵌入层执行检索增强生成，而无需任何繁重的工作。

接着，他解决了关于安全性和隐私方面的常见担忧。Bedrock对传输和固定数据进行加密，允许使用客户密钥，并确保数据不会用于改进基本模型或与其他第三方共享。此外，还提供了全面的监控、日志记录和合规能力。

演讲强调了生成式人工智能在不同行业和用例（如客户服务、内容创作、运营改进等）的巨大潜力。预计未来10年生成式人工智能预计将为全球 GDP 带来七万亿美元的增长。提供了一些使用Bedrock的客户示例：

• Lonely Planet正在使用Bedrock生成个性化的旅行行程，成本降低80%。
• NatWest利用Bedrock建立新服务和打击金融犯罪。
• Salesforce正在整合Bedrock以使用Salesforce数据自定义模型。

Sherry Ding返回，指导如何开始使用亚马逊云科技的生成式人工智能技术。她建议采用AI用例探索器工具来确定应用场景，并通过在亚马逊云技能构建器上提供培训课程来提升开发者的技能。Sherry Ding还与来自生成式人工智能创新中心的专业人士合作进行概念验证工作，并充分利用Bedrock产品页面和教程等现有资源。

总的来说，演讲者强调，亚马逊Bedrock通过提供对顶级基础模型的访问权限、简单易用的定制和自动化功能、强大的安全性和合规性以及协助客户启动的资源，极大地简化了构建生成式人工智能应用的过程。他们邀请与会者填写调查问卷并随时提出任何问题。

下面是一些演讲现场的精彩瞬间：

Sherry Ding,一名在亚马逊云科技公司的资深AI/ML解决方案架构师；Kaustubh Khanke则是该公司Amazon Bedrock团队的主产品经理。

作为联合演讲者，他们向众人介绍了各自的工作。

他们将全面阐述亚马逊Bedrock和生成式人工智能的基本原理。

随着大量数据的积累、可扩展计算的普及以及机器学习的进步，生成式人工智能正迎来其发展的拐点。

亚马逊云科技使得开发者能够构建与外部系统无缝互动以完成多步任务的复杂AI应用。

虽然基础模型无需额外编程即可处理简单的现实任务，但由于它们无法获取当前知识并采取特定行动，因此无法应对复杂的现实任务。

通过精心设计初始提示，基础模型可以在限定字数内被引导以提供简洁的回应。

总结

生成式人工智能正迅速改变商业领域，它能够创作出类似于人类的高质量原创内容。Amazon Bedrock提供了一个领先的基础模型，可以轻松定制以满足不同应用场景的需求，同时保持隐私和安全。Bedrock的主要特点包括使用顶级模型、利用您的数据对模型进行微调，以及通过API调用而非编程来自动化复杂任务的Bedrock代理。知识库通过检索增强生成实现实时数据整合。

应用案例涵盖了旅游、金融、制造和医疗等行业。例如，Lonely Planet将行程成本降低了80%，并且可以使用Bedrock快速定制内容。Salesforce正在扩展集成，使公司能够轻松访问数据以定制模型。

要开始使用，请使用AI用例探索器来识别机会并建立概念验证。可以参加如Coursera上的生成式人工智能培训课程。通过与创新中心等计划以及与Amazon云科技专家的联系来获取支持。可用资源包括Bedrock的产品页面、教程和研讨会。

演讲原文

https://blog.csdn.net/littlechenlin/article/details/134800882

想了解更多精彩完整内容吗？立即访问re:Invent 官网中文网站！

2023亚马逊云科技re:Invent全球大会 - 官方网站

点击此处，一键获取亚马逊云科技全球最新产品/服务资讯！

点击此处，一键获取亚马逊云科技中国区最新产品/服务资讯！

即刻注册亚马逊云科技账户，开启云端之旅！

【免费】亚马逊云科技“100 余种核心云服务产品免费试用”

【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用”

亚马逊云科技是谁？

亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者，自 2006 年以来一直以不断创新、技术领先、服务丰富、应用广泛而享誉业界。亚马逊云科技可以支持几乎云上任意工作负载。亚马逊云科技目前提供超过 200 项全功能的服务，涵盖计算、存储、网络、数据库、数据分析、机器人、机器学习与人工智能、物联网、移动、安全、混合云、虚拟现实与增强现实、媒体，以及应用开发、部署与管理等方面；基础设施遍及 31 个地理区域的 99 个可用区，并计划新建 4 个区域和 12 个可用区。全球数百万客户，从初创公司、中小企业，到大型企业和政府机构都信赖亚马逊云科技，通过亚马逊云科技的服务强化其基础设施，提高敏捷性，降低成本，加快创新，提升竞争力，实现业务成长和成功。