re:Invent 2023 | 生成式 AI：求助朋友

关键字: [Amazon Web Services re:Invent 2023, Amazon CodeWhisperer, Generative Ai, Language Models, Text Generation, Foundation Models, Large Language Models, Retrieval Augmented Generation, Agents]

本文字数: 1400, 阅读完需: 7 分钟

视频

如视频不能正常播放，请前往bilibili观看本视频。>> https://www.bilibili.com/video/BV1AQ4y1V7bS

导读

随着 AI 渗透到现代生活中，生成模型越来越多地应用于从艺术到科学的各个领域。但许多人仍然对这种快节奏的创新有基本的问题或担忧。这节课分解了复杂性，从一个易于理解的生成式 AI 介绍开始。聆听这些简单但未提问的问题的关键主题和答案，为学习提供一个友好的环境。深入理解生成式 AI，自信地驾驭技术的未来。本论坛面向科技爱好者、更新知识的专业人士或任何对生成式 AI 感兴趣的人。

演讲精华

以下是小编为您整理的本次演讲的精华，共1100字，阅读时间大约是6分钟。如果您想进一步了解演讲内容或者观看演讲全文，请观看演讲完整视频或者下面的演讲原文。

在内华达州拉斯维加斯的曼德勒湾度假村和赌场的大舞厅里，数百名观众齐聚一堂，热烈欢呼，为即将在2022年亚马逊云科技re:Invent上探讨的主题——“生成性AI：朋友还是问题？”表示期待。此外，来自MGM Grand酒店和威尼斯度假村的观众们也在现场通过模拟广播与远程观众互动，使得总观众人数超过了一千人。在欢迎了热情洋溢的观众们之后，主持人Mike Chambers和Tiffany Sua介绍了他们作为亚马逊云科技的开发者倡导者的身份。

Mike和Tiffany解释道，他们将在峰会期间进行现场实时投票，以了解观众们对生成性AI的看法。在展示的第一个问题时，观众们被问及“生成性AI是否改变了你的生活方式？”经过一段时间的调查后，结果显示了一个相对模糊的答案，50.2%的人选择了“是”，49.8%的人选择了“否”。这一最初的分歧让Mike和Tiffany感到惊讶，因为他们原本预期到基于生成性AI的快速进展，人们的回答会更为明确。

紧接着，Mike和Tiffany迅速进入了正题，概述了他们在接下来的45分钟会议中的议程。他们的目标是解答七个关键问题：什么是生成性AI和语言模型？文本生成是如何工作的？基础模型是什么？如何使用和定制大型语言模型？检索增强生成是什么？代理是什么？亚马逊Braket是什么？通过涵盖该领域的基本知识和最新进展，Mike和Tiffany希望能确保观众们能充分理解当前生成性AI的现状及其几乎无限的可能性。

在开始讨论第一个主题时，Tiffany解释了生成性AI如何代表了人工智能的一个子集，专注于创建新数据，而不仅仅是识别现有数据中的模式。她指出，过去十年，语言模型在生成性AI的快速发展中发挥了重要作用。这始于大约十年前，当时基于词共现模式的词汇嵌入出现。接着，循环神经网络使得模型能够看到比单个单词更多的句子上下文。

在2017年，随着一篇名为《注意力是一切所需》的具有开创性的论文提出了一种名为变压器架构的方法，人工智能领域迎来了一个重要的突破。这种模型终于能够在大量未见过的大数据集上进行训练。借助这些海量数据，模型拥有了数百亿个参数以及理解上下文的能力，从而能够创作出流畅、个性化且富有创意的文本。为了展示其工作原理，蒂法尼（Tiffany）详细解释了模型在生成文本过程中如何逐步预测下一个最可能的词汇。尽管过去的模型由于缺乏足够的上下文而无法进行准确的预测，从而导致输出的结果往往毫无意义，但现在的新模型已经能够成功地处理甚至是不熟悉的句子。

提芙尼深入研究了除提示工程外其他定制基础模型的方法，如微调和延续训练。这些选项需要投入时间和资源对模型进行进一步训练。而检索增强生成（RAG）作为一种更轻量级的技术，能在生成文本时从知识库中检索相关数据以丰富模型背景信息。这使得初始提示更加强大，提高输出的准确性和相关性。

为了通俗易懂地解释RAG，提芙尼用了一个名叫Wiz的魔法师的类比。Wiz在魔法学校（即初始模型预训练阶段）学习了基本的魔法技能，而魔法书籍则为特定任务提供了专用的魔法咒语。因此，Mike指出，最近的进展之一就是代理（agents），它们允许模型通过API调用与外部系统交互。例如，一个代理可以提供模型在其他情况下可能缺乏的当前日期和时间等信息，因为模型是在几个月或几年前进行的预训练。总之，Mike强调亚马逊Braket如何能够帮助开发者处理实现RAG、代理和基础模型API的无差别繁重工作。

在演讲结束时，Mike和Tiffany再次进行了投票，以了解人们观点是否发生变化。与会者被问到：“你认为生成式AI在未来会改变世界吗？”这次的结果几乎是一致肯定，有97%的人表示肯定，人群中响起了欢呼和掌声。Mike和Tiffany高兴地发现他们的演讲成功地传达了生成式AI的巨大潜力。

总的来说，该演讲回顾了过去十年中，由于变压器架构和具有数十亿参数的基础模型等创新，生成式AI已经迅速发展。各种技术如提示工程、检索增强生成和代理为不同应用提供了更多控制和定制。而像亚马逊Braket这样的服务为全球开发者提供了轻松访问最新生成式AI功能的可能性。在未来，生成式AI有望在许多方面对社会产生积极影响，前景非常光明。

下面是一些演讲现场的精彩瞬间：

迈克尔·钱伯斯（Mike Chambers）和蒂芙尼·苏阿（Tiffany Sua）作为亚马逊云科技的开发者倡导者，在re:Invent上的演讲中通过与观众的互动式调查展开了精彩的互动。

令人意外的是，调查显示，人们对生成性人工智能是否已经改变了他们的生活持有不同的观点。

为了展示生成性AI的强大功能，该AI系统创作了一幅独特的画作，画中的一只戴着眼镜和帽子的金毛寻回犬正在绘制肖像。

演讲者们阐述了生成性AI的关键发展和日益增长的业务价值。

他们还解释了如何通过分析大量自然语言数据来建立词汇之间的关系。

如今使用的语言模型基于数字化的词向量化，用以表示它们与其他词汇的位置和关系。

演讲者们思考了生成性AI是否将以积极的方式改变世界。

总结

本次演讲探讨了生成性人工智能及其改变我们生活和工作方式的潜质。该演讲概述了语言模型的发展历程，从早期的词嵌入到现今强大且复杂的变压器架构。演讲者详细解释了诸如基础模型、微调及检索增强生成等技术。

一个主要议题是如何定制并控制大型语言模型以获取有用结果。这包括审慎地提供提示、限制输出内容的长度以及调整温度和top-p/top-k等参数。最具潜力的方法是检索增强生成，即向“真实”模型提供相关的外部知识。这一过程可以用扩展的巫师隐喻来解释。

在演讲结束阶段，讨论了一些易于使用的生成性人工智能工具，例如CodeWhisperer和Bedrock等亚马逊服务。观众反馈显示，最初人们对生成性人工智能抱有怀疑态度，但随着其实力的展示，这种怀疑逐渐消退。演讲者期望生成性人工智能在未来能够积极影响全球。

演讲原文

https://blog.csdn.net/just2gooo/article/details/134795118

想了解更多精彩完整内容吗？立即访问re:Invent 官网中文网站！

2023亚马逊云科技re:Invent全球大会 - 官方网站

点击此处，一键获取亚马逊云科技全球最新产品/服务资讯！

点击此处，一键获取亚马逊云科技中国区最新产品/服务资讯！

即刻注册亚马逊云科技账户，开启云端之旅！

【免费】亚马逊云科技“100 余种核心云服务产品免费试用”

【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用”

亚马逊云科技是谁？

亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者，自 2006 年以来一直以不断创新、技术领先、服务丰富、应用广泛而享誉业界。亚马逊云科技可以支持几乎云上任意工作负载。亚马逊云科技目前提供超过 200 项全功能的服务，涵盖计算、存储、网络、数据库、数据分析、机器人、机器学习与人工智能、物联网、移动、安全、混合云、虚拟现实与增强现实、媒体，以及应用开发、部署与管理等方面；基础设施遍及 31 个地理区域的 99 个可用区，并计划新建 4 个区域和 12 个可用区。全球数百万客户，从初创公司、中小企业，到大型企业和政府机构都信赖亚马逊云科技，通过亚马逊云科技的服务强化其基础设施，提高敏捷性，降低成本，加快创新，提升竞争力，实现业务成长和成功。