re:Invent 2023 | 新时代：公共部门的生成式 AI 之路

关键字: [Amazon Web Services re:Invent 2023, Amazon Bedrock, Generative Ai, Public Sector, Large Language Models, Prompt Engineering, Sagemaker]

本文字数: 1700, 阅读完需: 8 分钟

视频

如视频不能正常播放，请前往bilibili观看本视频。>> https://www.bilibili.com/video/BV1yC4y1A7mP

导读

生成式 AI 的进步使我们所有人都在思考：什么是可能的？在几秒钟内，您可以生成新的图像、文本或音频。生成式 AI 在公共部门的作用正在迅速发展，重塑了我们对未来社会的愿景。参加本次论坛，深入探讨现在的可能性，探索其对公共部门的意义，并揭示一些关于此的误解和谬论。探索真实世界的亚马逊云科技用例，以帮助您在这一新技术时代的实际前进道路上迈出下一步。

演讲精华

以下是小编为您整理的本次演讲的精华，共1400字，阅读时间大约是7分钟。如果您想进一步了解演讲内容或者观看演讲全文，请观看演讲完整视频或者下面的演讲原文。

视频中的演讲者分享了关于公共部门采用生成性人工智能技术的独到见解。正如约翰所强调的，生成性人工智能正以惊人的速度不断进步，每天都会带来新的功能，有助于公共部门组织和员工更高效地完成工作。

为了充分利用这一潜力，演讲者的目标是为观众提供避免常见陷阱的实际指导，以便更快地集成生成性人工智能。这些建议源自过去一年里他们帮助客户定制和部署针对特定用例的生成性人工智能解决方案的实践经验。

约翰从生成性人工智能的起源出发，以帮助大家更好地理解其内容。尽管研究突破可以追溯到2017年的一篇名为《注意力就是你所需的一切》的重要论文，但广泛的兴趣实际上始于2022年底。

ChatGPT的发布以及其引人注目的用户界面使得非专业人士也能与它互动并利用AI。约翰强调了ChatGPT如何在短短5天内吸引1亿用户，这主要归功于社交媒体上的病毒性互动。

约翰回忆了去年圣诞节在他的岳父家首次体验ChatGPT的功能。他的侄子和侄女用这个工具轻松地为他创作了一首以他为主题的俳句诗，这让他印象深刻，因为展示了生成性AI在自动化创造性任务方面超乎寻常的潜力。

约翰进一步解释道，生成性人工智能与传统的设计用于狭窄、单一任务的AI模型截然不同。相反，生成性人工智能涉及到创造全新的作品，如文本、图像、视频或音频，这些都是以前从未存在过的。

这背后的原因是基于大规模训练语料库的基于变压器的模型。这种基础模型具有广泛的知识，使得在各种应用中无需对特定任务进行额外的训练。

约翰强调了这种多样性使生成性人工智能独具特色。例如，虽然Amazon Textract专门用于文本提取，而Amazon Translate则专注于翻译，但当提供适当的提示时，生成性模型可以同时展示这两种能力。

从技术基础出发，专家约翰探讨了生成性AI在提升客户体验、提高员工生产力和优化业务流程等方面的多种应用场景。例如，公共部门组织可以部署生成性AI聊天机器人，提供比当前虚拟助手更自然的对话体验。通过情感分析，可以从客户互动中收集反馈。同样，文本摘要功能可以帮助员工从长篇报告中快速获取关键信息。自动化代码生成和文档编写可以协助开发者。在网络安全领域，生成性AI可以检测威胁并提出针对性的修复计划。约翰建议将应用场景建立在实际的组织需求上，而不是仅仅为了使用生成性AI而使用它。有些问题可能更适合用其他方法解决。有目的的实施允许衡量商业价值。他通过一个互动问答与观众互动，以区分合适的和应用不合适的应用领域。文本摘要被认为是受益于生成性AI广泛语言掌握的典型应用场景。相比之下，图像中的物体检测有专门的解决方案。生成性图像创作明显符合技术的本质。

谈到实际采用，约翰介绍了四阶段的生成性AI生命周期，提供了一个结构化的路径：

1. 确定具体的应用场景
2. 选择合适的基础模型
3. 准备模型，包括合适的提示、示例和微调
4. 部署模型并监控其性能

在第二阶段模型选择中，约翰展示了Amazon Bedrock，这是一个今年推出的完全管理服务。Bedrock的点击式界面允许评估各种第三方基础模型，如Anthropic的Claude和Meta的LLaMA，通过在亚马逊云科技基础设施上部署它们。这便于实验以确定针对目标应用场景的合适选择，而无需投资昂贵的从头训练。Bedrock还确保客户数据的保密性，这些数据从未用于模型回训。加密保护数据安全。对于偏好使用亚马逊云科技GovCloud地区的公共部门客户，约翰强调了Amazon SageMaker作为替代方案。SageMayer提供一个管理笔记本实例,用于访问一系列基础模型目录,同时防止数据泄露。

在接下来的部分，约翰深入探讨了生成性人工智能模型的内部运作机制。他用一个有趣的类比进行了解释：当他还是孩子时，尝试预测姐姐接下来的谈话内容以捉弄她。这个游戏正是语言模型的工作原理，但规模更为庞大。

约翰回顾了从数千个参数到数十亿个参数的指数级增长，以及从数百万个标记到万亿个的训练语料库的大小。他将这些巨大的数字与整个英文维基百科的43亿个单词相比，后者仅占万亿的0.5%。

随着参数和数据量的增加，生成性人工智能的能力得到了显著的提高。约翰解释说，“基础模型”和“大型语言模型”通常指的是诸如GPT-3和PaLM之类的模型。此外，还有其他类型的基础模型。

接下来，约翰分享了一些关于引导生成性模型的有效提示技巧。他强调了特定性、清晰性和指导性，就像对孩子说话一样。通过区分人物、说明、背景信息和预期的输出格式，可以设计出有助于提示工程的模板。

若初始提示不起作用，提供一些示例可以帮助模型理解目标。这种方法被称为“少量拍摄学习”，对人类也有效。提示还可以通过结合外部数据来增强生成效果。

在生命周期的下一阶段，约翰介绍了Bedrock和SageMaker如何使基础模型适应特定需求。它们不是从零开始训练，而是修改模型的行为，例如将对话模型转换为文档分析模型。

约翰在最后总结了他关于如何使用亚马逊云科技安全地试验生成性人工智能以构建有影响力解决方案的观点，特别是对那些已经熟悉云的客户。他将舞台交给了亚伦，以便进一步探讨生产部署和实际应用。

亚伦接手后，首先解释了关键概念，如提示、少量拍摄学习和检索增强。他还分享了用于任务如命名实体识别和情感分析的提示构建模板和示例。

当初始提示不足时，提供一两个示例可以帮助模型理解目标。Aaron强调了提示的重要性，因为模型非常敏感。迭代式提示工程通常是必要的。

为了理解新的不熟悉的数据，如新文档，生成性AI需要检索增强功能。该技术首先提取并索引相关段落。这些段落被整合到提示中，以便将模型响应基于事实背景而不是幻觉。

在生产部署方面，Aaron对比了Bedrock和SageMaker。Bedrock通过API调用提供了对基础模型的完全管理的访问。它抽象了基础设施复杂性，同时让你控制数据安全策略。SageMaker在你自己的端点上提供更多的控制，以部署模型。

Aaron然后强调了Bedrock Agents（在演讲期间处于预览状态），这扩展了多步工作流的功能。代理可以协调任务，集成外部服务并提供可追踪性。

通过展示现实世界的影响，Aaron展示了两个有说服力的演示：

1.分析行政命令：系统根据上传的文档立即为不同机构总结关键任务。这是通过提示工程实现的，而无需明确训练进行法律分析。

2.评估研究提案：提案文件根据评分标准自动评分。模型还针对创新性和可持续性等评分方面生成改进建议。无缝集成的命名实体提取可以提取人物和服务提及。

这些演示展示了如何通过深思熟虑的提示从生成性模型中获得复杂的推理和多方面分析。这样的自动化可以提高公共部门工作流程的生产力。

总结，Aaron为寻求开始的公共部门组织提供了指导。他强调了在线课程、文档、研讨会和概念验证。推荐与亚马逊云科技的解决方案架构师合作以定制路径。亚马逊云科技的生成性AI创新中心也提供了支持。

总的来说，演讲者以令人信服的方式阐述了当深思熟虑地实施后，生成式人工智能如何在多个方面帮助公共部门机构提高工作效率。亚马逊云科技提供了安全、合规且功能先进的平台，让公共部门机构能够充分利用生成式人工智能的潜力。通过实际需求的案例应用，公共部门组织可以为公民提供更加智能化和快速响应的服务。

下面是一些演讲现场的精彩瞬间：

领导者探讨了亚马逊云科技如何在帮助公共部门客户实施创新性AI解决方案方面发挥重要作用。

这些解决方案依赖于将机器学习模型的输入作为提示。

演讲者通过举例说明，如何通过使用少量的提示来引导大型语言模型以及改进情感分析等任务。

演讲者展示了亚马逊云科技评估提案的AI工具是如何运用人物角色和加权评分标准来评估影响潜力及创新等方面的。

领导者强调了大型语言模型具备评分提案、提供反馈以及从单个提示中提取实体的能力，从而实现多种自然语言任务。

领导者还强调，应选择正确的应用场景，而不仅仅是盲目地使用AI技术。

建议从具体问题出发，逆向思考以确定AI是否能带来价值。

总结

The video discusses how generative artificial intelligence (AI) is rapidly developing and can assist public sector organizations in implementing solutions to support their tasks and employees. Generative AI involves creating new content such as text, images, videos, or audio. The speaker outlines a lifecycle for integrating generative AI solutions into production: first, identifying use cases where generative AI's advantages can be applied. Next, selecting appropriate foundational models for experimentation, utilizing tools like Amazon Bedrock or SageMaker. Then, constructing effective prompts to guide the model, providing examples as needed. Consider using retrieval techniques to expand the model with your own data. Optionally, fine-tune your data to customize its behavior. Finally, deploying the model into production through a service like Bedrock or SageMayer. Throughout this process, ensure data security and privacy. The speaker demonstrates the knowledge and capabilities of a single generative AI model used for summarizing complex documents, evaluating proposals, and extracting key requirements from companies. With the right use cases and approaches, generative AI has the potential to bring powerful new automation to public sector tasks.

演讲原文

https://blog.csdn.net/just2gooo/article/details/134788498

想了解更多精彩完整内容吗？立即访问re:Invent 官网中文网站！

2023亚马逊云科技re:Invent全球大会 - 官方网站

点击此处，一键获取亚马逊云科技全球最新产品/服务资讯！

点击此处，一键获取亚马逊云科技中国区最新产品/服务资讯！

即刻注册亚马逊云科技账户，开启云端之旅！

【免费】亚马逊云科技“100 余种核心云服务产品免费试用”

【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用”

亚马逊云科技是谁？

亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者，自 2006 年以来一直以不断创新、技术领先、服务丰富、应用广泛而享誉业界。亚马逊云科技可以支持几乎云上任意工作负载。亚马逊云科技目前提供超过 200 项全功能的服务，涵盖计算、存储、网络、数据库、数据分析、机器人、机器学习与人工智能、物联网、移动、安全、混合云、虚拟现实与增强现实、媒体，以及应用开发、部署与管理等方面；基础设施遍及 31 个地理区域的 99 个可用区，并计划新建 4 个区域和 12 个可用区。全球数百万客户，从初创公司、中小企业，到大型企业和政府机构都信赖亚马逊云科技，通过亚马逊云科技的服务强化其基础设施，提高敏捷性，降低成本，加快创新，提升竞争力，实现业务成长和成功。