开始在 Amazon Bedrock 中使用 Anthropic 的 Claude 3 Sonnet 基础模型

2023 年 9 月，亚马逊云科技宣布与 Anthropic 进行战略合作，双方将结合彼此在生成式 AI 领域的技术和专长，协作促进基础模型 Anthropic Claude 基础模型（FM）发展，并向亚马逊云科技客户推出相关模型。您可以在 Amazon Bedrock 中提前使用 Anthropic Claude 模型的独特功能，重塑用户体验、改进业务，并加速生成式 AI 应用。

2023 年 11 月，Amazon Bedrock 新增支持 Anthropic Claude 2.1，该版本提供了企业构建生成式 AI 的关键能力。Claude 2.1 提供的上下文窗口支持高达 20 万个 Token，降低了“幻觉”发生率，提高了长文档处理的准确性，优化了系统提示，并为函数调用和工作流编排提供了测试工具使用功能。

如今，Anthropic 推出了 Claude 3 AI 模型系列。客户可以结合所需的人工智能水平、速度和成本控制需求，从该最新一代 AI 模型系列中选择适合自身业务需求的模型。该系列包括三款模型：Claude 3 Haiku，具有迅速响应能力、最快速且最紧凑的模型；Claude 3 Sonnet，很好平衡技能与速度的模型；以及 Claude 3 Opus，针对高度复杂任务提供的高智能、高性能模型。

此外，亚马逊云科技还宣布 Amazon Bedrock 已上线 Anthropic Claude 3 Sonnet 模型。Claude 3 Opus 和 Claude 3 Haiku 也即将上线。在处理绝大多数工作负载方面，Claude 3 Sonnet 模型的速度是 Claude 2 和 Claude 2.1 的两倍，并且 Claude 3 Sonnet 提供更高的可控制性，以及新增了图像转文本的视觉能力。

随着 Claude 3 Sonnet 在 Amazon Bedrock 上的推出，您可以在亚马逊云科技上为企业构建高性价比、高智能、高可靠性、高速度的生成式 AI 应用。现在，您就可以登录 Amazon Bedrock 控制台，使用 Anthropic 的最新模型 Claude 3 Sonnet。

• Amazon Bedrock 控制台

  https://console.aws.amazon.com/bedrock/

Anthropic Claude 3 Sonnet 简介

以下是 Amazon Bedrock 中 Claude 3 Sonnet 模型的一些关键亮点：

• 2 倍速度提升：Claude 3 在速度上取得了显著进步。在处理绝大多数工作负载方面，它的速度是 Claude 2 和 Claude 2.1 等高性能 Anthropic 模型处理速度的两倍，同时还保持了与之同等的智能水平。这种速度和技能的结合使得 Claude 3 Sonnet 成为需要快速响应的智能任务的明智选择，如知识检索或销售自动化。Claude 3 Sonnet 适用于内容生成、内容分类，数据提取、研究和检索，以及在知识库中进行准确搜索等使用场景。

• 高可控性：增强了 AI 系统的可控性，使用户更能控制输出内容，提供可预测的、质量更高的结果。同时，大大减少了由于系统的安全防护机制为了防止有害输出而拒绝回答临界问题的可能性。Claude 3 Sonnet 更易于控制，并在 JSON 等主流结构化输出中表现更好，使开发人员能更轻松地构建企业应用和前沿应用。这在企业用例中尤其重要，例如自动驾驶汽车、健康与医疗诊断，以及金融服务等敏感领域的算法决策。

• 图像转文本视觉能力：Claude 3 提供处理图像并返回文本输出的视觉能力。它在分析和理解图表、图形、技术性图表、报告和其他图像资源方面具有极为强大的能力。Claude 3 Sonnet 在保持显著速度优势的同时，还提供与其他具有图像处理功能的顶尖模型相当的性能。

• 新增语言支持：Claude 3 提高了对法语、日语和西班牙语等非英语语言的理解和响应能力。语言覆盖范围的扩展使 Claude 3 Sonnet 能够更好地服务于需要跨地理区域和语言使用 AI 应用的跨国公司，以及需要精确翻译服务的企业。Claude 3 Sonnet 在编程开发和数学处理方面也更为强大，这一点从 Anthropic 在小学数学问题（GSM8K 和 Hendrycks）和 Codex (HumanEval) 的处理评估得分中得到印证。

了解更多关于 Claude 3 Sonnet 的功能和能力，请访问：

• Amazon Bedrock 上的 Anthropic Claude 模型

  https://aws.amazon.com/bedrock/claude/

• 亚马逊云科技文档中关于 Anthropic Claude 模型文档

  https://docs.aws.amazon.com/bedrock/latest/userguide/model-parameters-claude.html

快速开始使用 Amazon Bedrock 中的 

Anthropic Claude 3 Sonnet

如果这是您第一次使用 Anthropic 模型，请前往 Amazon Bedrock 控制台并在左下方面板中选择 Model access（模型访问）。申请 Claude 3 Sonnet 访问权限。

要在控制台中测试 Claude 3 Sonnet，请在左侧导航栏中的 Playgrounds 下选择 Text（文本）或 Chat（聊天）。单击 Select model（选择模型），然后选择 Anthropic 类别，选择 Claude 3 Sonnet 模型。

要测试更多 Claude 提示语示例，请点击 Load examples（加载示例）。您可以查看和运行 Claude 3 的特定示例，例如带引用的高级问答、制作设计简报和生成非英语内容。

您还可以点击 View API request（查看 API 请求），通过 Amazon 命令行界面（Amazon CLI）和 Amazon SDK 中的示例代码查看如何使用 Claude 3 Sonnet 模型。Amazon CLI 命令示例：

 Bash 

aws bedrock-runtime invoke-model \
   --model-id anthropic.claude-3-sonnet-20240229-v1:0 \
   --body "{\"messages\":[{\"role\":\"user\",\"content\":[{\"type\":\"text\",\"text\":\"Write the test case for uploading the image to Amazon S3 bucket\\nCertainly! Here's an example of a test case for uploading an image to an Amazon S3 bucket using a testing framework like JUnit or TestNG for Java:\\n\\n...."}]}],\"anthropic_version\":\"bedrock-2023-05-31\",\"max_tokens\":2000}" \
   --cli-binary-format raw-in-base64-out \
   --region us-east-1 \
 invoke-model-output.txt

您可以上传一张图片，然后测试图像转文本视觉能力。例如，我上传了这篇博文的封面图片，然后收到了这张图片的详细描述。

您可以调用 API 来处理图像，并指定以英语和多种其他语言返回输出文本。

 JSON 

{
  "modelId": "anthropic.claude-3-sonnet-v1:0",
  "contentType": "application/json",
  "accept": "application/json",
  "body": {
    "anthropic_version": "bedrock-2023-05-31",
    "max_tokens": 1000,
    "system": "Please respond only in Spanish.",
    "messages": [
     {
      "role": "user",
      "content": [
        {
          "type": "image",
          "source": {
            "type": "base64",
            "media_type": "image/jpeg",
            "data": "iVBORw..."
          }
        },
        {
          "type": "text",
          "text": "What's in this image?"
        }
      ]
    }
   ]
  }
}

在这次合作发布的庆功会上，Neerav Kingsland，Anthropic 全球客户总监，谈到了 Anthropic 和亚马逊云科技合作的意义。

“Anthropic 的核心是一家研究公司，致力于打造全球最安全的大型语言模型。借助于 Amazon Bedrock，我们得以将这种技术推向全球，同时我们确保以极致安全和保证数据安全的方式进行。”

现已上线

Claude 3 Sonnet 现已在 US East (N. Virginia) 和 US West (Oregon) 地域推出；您可以关注完整地域列表，查看后续推出的地域。Anthropic Claude 3 Opus 和 Haiku 也即将在 Amazon Bedrock 上推出。

在计费方法方面，您可以选择按需（On-Demand）或批量（Batch）模式。这样，您可以根据模型推理和定制的资源使用量进行按量付费，无需长期订阅即可使用基础模型。您也可以使用预配吞吐量模式，为特定的基础或自定义模型购买模型单元。了解更多计费信息，请参阅 Amazon Bedrock 定价。

您可以现在前往 Amazon Bedrock 控制台试用 Anthropic Claude 3 Sonnet 模型：

https://console.aws.amazon.com/bedrock

本篇作者

Channy Yun

Channy Yun 是亚马逊云科技的资深开发者布道师。他致力于帮助开发者使用最新的亚马逊云科技服务构建现代应用程序。他是一个务实的开发者和博客作者，热衷于社区技术学习和分享，帮助开发者参与全球亚马逊云科技用户组。他的主要研究方向包括开源、容器、存储、网络与安全以及物联网。

星标不迷路，开发更极速！

关注后记得星标「亚马逊云开发者」

听说，点完下面4个按钮

就不会碰到bug了！