亚马逊云科技引领生成式AI技术创新

关键字: [NY, Amazon Bedrock, Generative Ai, Foundation Models, Amazon Bedrock, Knowledge Bases, Guardrails]

本文字数: 1900, 阅读完需: 10 分钟

导读

在亚马逊云科技纽约峰会上,亚马逊云科技人工智能产品副总裁Matt Wood阐释了生成式人工智能的最新进展。他指出,生成式人工智能代表着我们与数据和信息互动方式的重大转变,为投资这一技术的组织带来了显著的增长机会。Wood强调了亚马逊云科技全面的生成式人工智能技术栈,涵盖基础设施、Amazon Bedrock应用程序构建以及Amazon Q等人工智能驱动应用程序。重点宣布的新功能包括:

• 在Amazon Bedrock上针对Anthropic的CLAUDE 3模型进行微调
• Bedrock上的代理人具备记忆保留和代码解释能力
• Bedrock的Guardrails中的情境验证检查,以减少虚构
• 亚马逊云科技CodeWhisperer可针对内部代码和API进行定制
• 亚马逊云科技App Studio可快速构建具备生成式人工智能的应用程序

此次演讲着重阐释了亚马逊云科技如何让客户构建安全、可扩展和经济高效的生成式人工智能应用程序,通过可再生能源投资推动可持续发展,并在各行业加速数字化转型。

演讲精华

以下是小编为您整理的本次演讲的精华，共1600字，阅读时间大约是8分钟。

纽约市的re:Invent拉开序幕,亚马逊云科技人工智能产品副总裁Matt Wood发表了一场引人入胜的演讲,深入探讨了生成式人工智能的变革潜力。他强调,生成式人工智能代表了自最早期互联网出现以来,我们与数据、信息和彼此互动方式发生的最大单一转变。Wood将投资于早期互联网的组织所经历的显著增长,如Amazon.com,与当今投资于生成式人工智能的客户所预期的多个”亚马逊”增长水平作了类比。目前有数十万客户在亚马逊云科技上运行他们的人工智能和机器学习工作负载,而亚马逊云科技用于构建生成式应用程序的Bedrock服务则成为过去十年中增长最快的亚马逊云科技服务之一。在整个亚马逊云科技范围内,机器学习和人工智能已成为年营收率达数十亿美元的业务,经历了显著增长。Wood对企业和成功的初创公司在生成式人工智能使用方面取得如此非凡的增长感到振奋,96%的所有人工智能/机器学习独角兽公司和福布斯人工智能50强名单中90%的组织都在亚马逊云科技上运行。

令人惊讶的是,Wood指出,受监管的行业,如金融服务业(纽约证券交易所)、太阳人寿保险公司等保险公司、辉瑞等生命科学公司,甚至公共部门的卫生保健领域(哥伦比亚特区卫生部),在通用人工智能的发展道路上进展较快。这源于过去20年来,它们一直遵守合规法规,培养了使用通用人工智能的正确行为,包括健全的数据策略、了解数据质量和治理,以及明确谁可以为何目的在哪些服务中使用哪些数据。在亚马逊云科技,每个行业的客户都能满足并超越通用人工智能及其数据的安全要求。亚马逊云科技不会使用付费人工智能服务的数据来改进底层模型,也不会由人工审查这些信息。客户可以控制VPC内的数据流,从一开始就确保安全性。亚马逊云科技提供了最广泛的人工智能功能,其通用人工智能堆栈由三层组成:用于构建、训练和调整基础模型的基础设施;Amazon Bedrock可轻松构建使用通用人工智能的应用程序;以及由通用人工智能独特启用的应用程序,如Amazon Q。

此外,亚马逊云科技以极快的速度推出新功能,自2023年以来已推出326项通用人工智能功能正式上线——是所有其他云提供商总和的两倍多。大多数客户依赖现有的亚马逊云科技数据,包括艾字节的私有数据,以新方式分析和利用通用人工智能。另外,亚马逊云科技已提前七年完成了到2030年使用100%可再生能源匹配亚马逊全球运营所用电力的目标,这代表了对基础设施的重大投资,有利于亚马逊各业务领域的客户。这包括分布在27个不同国家的500个不同的可再生太阳能和风能场站,单单离岸风电就可产生超过1.7吉瓦的电力,相当于为760万户美国家庭供电。

伍德认为,生成式人工智能最终将被编织进所有应用程序、流程和使用案例中,成为新的常态。然而,在过渡期间,他强调了共同探索这一主题、相互学习以及了解哪些做法行之有效、哪些做法行不通的重要性。人工智能的基础在于云端。训练模型和运行推理需要大量的数据和基础设施,亚马逊云科技通过其最新的NVIDIA GPU、能够配置大型GPU集群、FSx提供的低延迟数据访问、EFA网络和Nitro Enclaves的安全性来提供这些资源。亚马逊云科技是运行NVIDIA GPU的最佳选择,证据就是NVIDIA在由20,736个NVIDIA A100 GPU构建的、计算能力达414艾克萨的Selene超级计算机上进行其内部研发培训,该超级计算机由亚马逊云科技构建。

客户希望混合搭配各种模型,因为没有一种模型能够满足所有使用案例的需求。亚马逊云科技通过Amazon Bedrock提供了最广泛的模型选择,包括来自AI21 Labs、Anthropic、Cohere、OpenAI、Meta、Mistral AI和Stability AI的模型,以及导入自定义模型的能力。这使客户能够精确匹配他们的需求,无论是速度、智能还是成本。客户重视为特定需求微调模型的能力,例如理解医学术语、提高任务性能或定制领域和格式。亚马逊云科技宣布了首个针对Anthropic的Claude 3模型的微调功能,从Haiku开始,这项功能仅在亚马逊云科技上提供。像SK Telecom和汤森路透这样的客户通过微调,任务性能和准确性提高了高达40%。

亚马逊云科技提供了自动评估和比较模型在特定任务上能力的方式,以及在多模态和多模型应用程序中组合模型和其他功能的能力,这种组合会产生复合智能。对几十家每年在生成式人工智能上花费数百万美元的大型企业的调查发现,97%的企业不仅使用多个模型,而且能够通过汇集来自多个开发商的模型来构建智能系统。

为了弥补基础模型知识的缺口,亚马逊云科技通过Bedrock知识库提供全面管理的检索增强生成(RAG)功能,允许客户安全地将模型连接到他们的数据源,检索相关数据,并通过源属性增强提示。亚马逊云科技通过亚马逊Bedrock的防护措施提供行业领先的安全保护,包括词语过滤器、主题过滤器、有害内容过滤器、个人身份信息(PII)过滤器和安全检查。新的情境理解检查能够检测并阻止RAG和总结等用例中的虚构内容,减少75%的虚构内容。

亚马逊Bedrock中的智能体能够理解目标、制定计划并采取行动。新的记忆保留功能允许智能体随时间记住并从互动中学习,实现更复杂、更长期运行和更具适应性的任务。代码解释功能让智能体能够自动生成和执行代码、分析数据并生成图表。一家名为Ninja Tech的初创公司提供了一个多智能体系统,系统中不同的研究人员执行不同的任务,如调度员、编码助手和顾问,所有这些都通过智能体的力量进行交互。自推出以来,该公司在一个月内就吸引了400,000月活跃用户,并100%运行在亚马逊云科技上,通过使用Trainium和Inferentia芯片实现了80%的成本节约。

亚马逊云科技展示了生成式人工智能如何能够推动组织内部的转型,例如亚马逊CodeWhisperer通过理解代码并提供上下文代码建议来简化软件开发。新的CodeWhisperer定制功能根据内部代码、API、库和最佳实践定制建议。在澳大利亚的一家大型银行NAB,代码建议的接受率跃升至50%,超过40%的受访开发人员看到了生产力的提高,导致使用CodeWhisperer的员工人数在短短几个月内从450人增加到1,000多人。

亚马逊云科技宣布推出亚马逊云科技应用程序工作室,这是一项由生成式人工智能驱动的低代码应用程序构建服务,允许没有软件开发技能的技术人员使用自然语言提示在几分钟内构建安全、可扩展的应用程序。构建应用程序是免费的,客户只需为使用的服务付费,与可比较的产品相比,潜在节省高达80%的成本。

在整个演讲中,伍德强调了合作伙伴关系和客户案例,展示了生成式人工智能在亚马逊云科技(Amazon Web Services)上的强大力量。Anthropic的总裁兼联合创始人达里奥·阿莫代伊(Dario Amodei)讨论了他们与亚马逊云科技的合作伙伴关系、Claude的创建以及新宣布的Claude 3 Haiku在Amazon Bedrock上的微调功能。阿莫代伊还介绍了Anthropic最新和最强大的模型Claude 3.5 Sonnet,其性能优于竞争对手模型如GPT-4和Gemini Pro,已有数千名客户在Bedrock上使用该模型进行诸如细致的客户支持、多步骤财务分析、处理数据和新闻、编写代码、开发内容等各种任务。

纳斯达克(Nasdaq)的执行副总裁兼首席技术官布拉德·彼得森(Brad Peterson)分享了他们如何利用亚马逊云科技上的生成式人工智能来改革他们的产品和业务,包括监控产品效率提高33%,以及首个获得SEC批准的AI订单类型Dynamic Mellow。他们新推出的Entity Research Copilot服务为数百名打击金融犯罪的客户带来了惊人的生产力提升。

拜耳(Bayer)作物科学、数据资产和分析副总裁威尔·麦奎因(Will McQueen)讨论了他们如何利用亚马逊云科技和生成式人工智能来加速创新、缩短开发周期,并探索为其数据科学平台和平台构建者启用基于GenAI的功能。使用Amazon Q的早期实验显示,可将新开发人员入职所需时间缩短70%,并通过自动化取代手动工作,将开发人员生产力提高30%。拜耳还在探索利用Bedrock提供的生成式人工智能功能,使数据科学家能够配置预先配置好的模型开发和部署环境。

最后,伍德对宣布的强大功能和能力表示兴奋,并鼓励与会者探索和构建令人兴奋的生成式人工智能技术,祝愿他们有一个”提示快乐”的体验。这次演讲全面概述了生成式人工智能、其重要性以及亚马逊云科技在这一快速发展领域的广泛产品和创新,强调了客户成功案例、合作伙伴关系以及塑造生成式人工智能应用及其跨行业影响的未来趋势。

下面是一些演讲现场的精彩瞬间：

纽约市re:Invent拉开序幕,与会者热切期盼着丰富多彩的创新学习和交流体验。

通过检索增强生成(RAG)技术,将机密信息、实时数据等引入生成式AI模型,从而提高模型的一致性、连贯性和准确性,是构建实用的生成式AI应用程序的关键所在。

借助生成式人工智能,企业的各个部门无论是产品领域还是业务职能,都可以获得改进,我们应该挑战自我,利用这一令人难以置信的能力来提升公司的竞争力。

在这一重要时刻,亚马逊宣布了CodeWhisperer定制化功能,可根据内部代码和最佳实践为开发人员提供个性化的代码建议,并且聊天系统也能了解内部代码库的工作方式。

亚马逊CodeWhisperer应用程序现已正式推出,允许您用自己的语言构建轻量级应用程序。

总结

生成式人工智能正在彻底改变人类与数据和信息互动的方式,开启了一个变革性的时代,就如同互联网的出现一样。亚马逊云科技正处于这场革命的前沿,为客户提供了一套全面的服务和能力,赋能他们利用生成式人工智能。

1. 亚马逊云科技为生成式人工智能提供了安全可靠的基础,拥有广泛的人工智能能力,涵盖基础设施、应用程序构建和现成的人工智能驱动应用程序,确保客户能够满足其安全性和合规性要求。
2. 亚马逊云科技重视模型选择和定制的重要性,通过Amazon Bedrock提供最广泛的基础模型选择,使客户能够为其用例找到合适的模型,并使用自有数据对其进行微调。
3. 亚马逊云科技在Bedrock中引入了创新功能,如知识库、防护栏和代理,允许客户使用自有数据增强模型、实施保护措施,并构建复杂的多步骤应用程序,可执行任务、生成代码和进行分析。
4. 亚马逊云科技通过Amazon CodeWhisperer等服务,为客户加速转型步伐。CodeWhisperer通过提供定制的代码建议,并支持从自然语言提示创建轻量级应用程序,从而提高开发人员的生产力。
5. 通过亚马逊云科技App Studio这一全新的基于生成式人工智能的低代码服务,亚马逊云科技使没有软件开发技能的技术人员能够在几分钟内构建安全、可扩展的应用程序,简化业务流程并自动化内部活动。

总之,亚马逊云科技正处于生成式人工智能革命的前沿,为客户提供了一个全面且安全的服务和能力生态系统,赋能他们释放生成式人工智能的力量,推动创新,并在整个组织内提高生产力和效率,实现新的水平。