亚马逊云科技之马特·伍德论模型选择、编排、Q和评估大语言模型

亚马逊云科技 人工智能副总裁马特·伍德(Matt Wood)概述了企业将如何根据使用案例混合搭配多种模型的方式、编排的需求以及监管行业在采用生成式AI方面可能拥有的优势。

伍德在 亚马逊云科技 纽约办事处与包括我和道格·亨斯琴(Doug Henschen)在内的行业分析师进行了交谈。以下是一些需要注意的关键主题。

与竞争对手相比，亚马逊云科技 的差异化优势在于确保客户保留知识产权和机密性。伍德表示亚马逊云科技”不会将客户数据与模型训练数据混合”并且”不允许任何人工审查”训练数据。主要提及的竞争对手是 Azure OpenAI。

伍德说:

“在一些客户心目中出现了一种分歧，需要愿意放弃一些知识产权保护或数据机密性或隐私，才能在生成式AI方面取得成功。但在亚马逊云科技上就不存在这种情况。在任何行业尤其是受监管行业，客户都不愿意这样做。”

传统上，受监管行业被视为技术落后者，但这些企业都在大力采用生成式AI。金融服务、保险和医疗保健等受监管行业在生成式AI领域的”发展速度比平均水平稍快”。

伍德说:

“这些组织在过去20年中所做的监管工作和合规工作实际上为他们使用生成式AI做了很好的准备。所有治理、隐私和安全数据标准都允许您能够快速获得生成式AI的实用性和价值。”

伍德表示，“公司开始培养模型评估的能力”，他们”不再紧密耦合单一模型”。 道格·亨斯琴的观点是:“这与我们从 GCP 和甚至微软那里听到的一致，但伍德坚持认为 亚马逊云科技 将成为’瑞士’国家，而 Bedrock 在模型多样性方面仍将保持区别。”

• 亚马逊云科技加大对Anthropic的投资，巨头们形成了大语言模型的影响力圈
• 亚马逊云科技第四季度收入增长13%，亚马逊业绩出色

伍德说模型选择是长远来看的唯一出路。”其他供应商与极少数模型捆绑得太紧密了。这意味着客户不得不将模型视为一个瑞士军刀，听起来不错，但如果一名承包商到家中修理时只带了一把瑞士军刀，您肯定会不太满意。”

最终，企业在管理模型组合时将在速度、用例和成本之间进行权衡。伍德补充说，这种模型组合管理已经延伸到计算领域。他表示，如果需要训练速度，就会选用 Nvidia GPU，但如果成本是更重要的考虑因素，亚马逊云科技 的 Trainium 芯片就是一个选择。伍德说，客户群体中约有一半关注速度需求，另一半关注成本。

• 亚马逊生成式AI堆栈产品概览
• 亚马逊的 Vogels 表示”成本意识是一门失传的艺术”，亚马逊云科技 推出了优化工具

模型编排将变得至关重要。伍德说:“我们发现，在生成式AI的广泛生产使用中取得成功的一个重要部分就是能够根据使用案例获取合适的模型。”“不同的模型具有不同的操作方式、用例和专长领域。生成式AI真正的超能力在于这些模型的组合以及对系统整体智能的叠加效应。”

Bedrock 中模型的编排将随着时间的推移而发展，以便企业能够利用多种模型。伍德表示，目前模型的编排需要对数据进行硬编码规则，但随着模型能力提高以处理更多任务，生成式AI将能够更好地发挥调度作用。

Q 根据专业领域和用例利用多种模型。”Amazon Q 是生成式AI的简单按钮”，它提供了许多公司希望使用的所有生成式AI功能，伍德如是说。他特别称赞”一个阶跃式的变化”出现在数字化转型和迁移项目中，例如从 Windows 到 Linux 的迁移。亨斯琴表示，云迁移将成为生成式AI的一个重要用途，对于希望从旧平台迁移到现代化云平台的客户来说，它将成为加速器和节省成本的手段。

伍德指出，Q 通过一系列专家智能体运行在各种模型上。