在 Amazon Bedrock 上使用不同的大型语言模型 (LLM) 入门

最新推荐文章于 2024-10-12 17:30:14 发布

2401_84209581

最新推荐文章于 2024-10-12 17:30:14 发布

阅读量460

点赞数 4

文章标签：云计算

本文链接：https://blog.csdn.net/2401_84209581/article/details/138221039

版权

无论是 Anthropic 的 Claude 3 系列还是 Mistral AI 的各种模型，在 Amazon Bedrock 上都有大量的方式可以开始尝试。以下是基本内容。

[Brandon Carroll]

发布于 2024 年 4 月 24 日

您可能找到了这里，因为您对在 Amazon Bedrock 上开始使用大型语言模型 (LLM) 感兴趣。或者您可能听说过 Bedrock 支持各种不同的模型，如 [Anthropic 的 Claude 3]、[Mistral AI 的模型]和 [Meta 的 Llama 3 模型]，可以并行使用（甚至可以[在视频游戏中互相对战]）。这太棒了！在开始之前，让我们先定义什么是 LLM，并简要了解它们是如何工作的。然后我们将讨论如何使用 Amazon Bedrock 访问大量的 LLM，我还将向您展示如何入门、如何在 LLM 之间切换，以及我们将探索 Amazon Bedrock 的一些功能。

大型语言模型 (LLM) 简介

LLM 是一种基础模型 (FM)，经过在大量文本数据上的训练，可以让它们理解语言并执行复杂任务。复杂任务包括生成故事、总结文本、为您编写代码等等。Amazon Bedrock 是一种托管服务，让您可以访问来自多家知名 AI 公司的多种高性能 FM。从高层次来看，您需要为 LLM 提供一些初始文本或说明，我们称之为提示。然后，该模型将使用此内容作为起点，根据场景生成自己的响应或响应延续。很酷的是，LLM 具有识别其被训练数据中的模式并利用这些知识产生相关连贯输出的能力。它并不总是完美，有时 LLM 会产生幻觉并编造出一些不完全准确的内容。这就是为什么您应该密切关注响应并将其与您所知道的确实情况进行比较的原因。

现在，使用 LLM 的关键方面之一就是所谓的提示工程。这是制定有效提示的过程，让 LLM 为您提供所需类型的输出。有几种技术，如零次学习，LLM 在没有任何示例的情况下应对任务；以及少次学习，您提供少量示例来引导 LLM。这些方法可以帮助您从 LLM 获得更准确的响应。

通过 Amazon Bedrock，您可以通过单一 API 访问来自 Anthropic、Cohere 和 Amazon 自身模型等领先 AI 公司的多种 LLM。在不同 LLM 之间切换非常简单，因为您实际上只是更改了几行代码。不过稍后我们将讨论使用 Bedrock。现在，只需知道 Bedrock 为您提供了实验各种 LLM、使用自己的数据定制它们并构建安全负责任的 AI 应用程序的工具，而无需自己管理任何基础设施。

什么是 Amazon Bedrock

但 Amazon Bedrock 究竟是什么呢？Amazon Bedrock 是一种托管服务，它让您可以通过单一 API 访问来自 AI21 Labs、Anthropic、Cohere、Meta、Mistral AI AI、Stability AI 以及 Amazon 自身等领先 AI 公司的各种高性能 FM。这意味着作为开发人员，您可以轻松更改几行代码，就可以快速访问完全不同的 LLM。我们稍后将在本文中进一步讨论这一点。事实上，Bedrock 还提供了一组功能，您可以使用这些功能在注重安全性、隐私和负责任 AI 的前提下构建生成式AI应用程序。通过 Bedrock，您可以试验和评估不同的 LLM。这让您有机会为您的用例找到最佳选择。此外，您还可以使用诸如微调和检索增强生成 (RAG) 等技术，用自己的数据定制它们。那么您如何入门呢？

Amazon Bedrock 入门

我假设您已经拥有亚马逊云科技帐户，因此直接进入获取 Amazon Bedrock 的访问权限。首先，让我们看一下亚马逊云科技控制台。

在亚马逊云科技控制台中导航到 Amazon Bedrock。然后点击”开始使用”，您将进入概览页面。您可以在图 1 中看到这一点。

在图 1 中，您将注意到用数字 1 到 6 标记出的几个区域。区域 1 是入门菜单，您可以在这里获得 Amazon Bedrock 的概览、查看一些示例，以及查看有关模型提供商的详细信息、每个提供商可用的 LLM 的具体信息、API 请求的样子，以及每个提供商的其他资源。区域 2 是您可以查看您的基础 FM 和任何已训练的自定义模型的地方。区域 3 是体验区。这是您可以在亚马逊云科技控制台界面中选择和测试不同 LLM 的地方。区域 4 是您的防护措施，目前包括水印检测。此功能目前处于预览状态，但它将检测图像是否由 Bedrock 上的 Titan Image Generator 模型生成。接下来，区域 5 是编排。这是您可以访问知识库和代理的地方。区域 5 是评估和部署，它允许您进行模型评估和控制预配吞吐量。左侧的整个菜单可能会发生变化，但至少您现在对其中的内容有所了解。

图 1 中没有显示最重要的菜单项之一。它是 模型访问 菜单项，位于左侧菜单的底部。我说这是最重要的菜单项，因为在您可以使用每个模型之前，都必须请求访问权限，并且默认情况下不会授予。因此，管理员需要进入 模型访问，管理模型访问，并为您希望使用的模型请求访问权限。您可以在图 2 中看到这一点。