开始在 Amazon Bedrock 中使用 Claude 3 Haiku 模型吧!

本文介绍了AmazonBedrock中的新模型Claude3Haiku,专为快速响应和流畅的人机交互设计。文章详细指导如何在Bedrock上获取访问权限、测试模型、使用API以及比较与其他版本的性能。还提到了模型的性价比和可用地区。
摘要由CSDN通过智能技术生成

9ecd1d81e3a59ca73590b3e46198cb08.gif

本文作者 Channy Yun 

亚马逊云科技首席开发者布道师

翻译&编辑 Claude 3 Haiku

昨天,Claude 3 Haiku 已正式登陆 Amazon Bedrock(点击此处查看介绍)Claude 3 Haiku 基础模型是 Claude 3 系列中最快速、最紧凑的模型,专为近乎瞬时的响应性和模仿人类互动的无缝生成式 AI 体验而设计。通过 Amazon Bedrock 访问 Claude 3 Haiku 模型,您可以为需要快速和准确定向性能的企业构建近乎即时响应的生成式 AI 应用程序。本文将带您开始在 Amazon Bedrock 中使用 Claude 3 Haiku 模型。

要了解更多关于 Claude 3 Haiku 特性和功能,您可以通过 Amazon Bedrock 访问 Anthropic Claude 系列模型:

https://aws.amazon.com/bedrock/claude/

开始使用 Claude 3 Haiku

如果你是 Anthropic 模型的使用新手,请前往 Amazon Bedrock 控制台,在左下角窗格中选择"Model access"。单独请求获取 Claude 3 Haiku 的访问权限。

806631f508996c63e8d833ccf266320f.jpeg

要在控制台中测试 Claude 3 Haiku,请在左侧菜单窗格中选择"Playgrounds"下的"Text or Chat"。然后选择"Select model",选择"Anthropic"作为类别,选择"Claude 3 Haiku"作为模型。

3eeb47ada6e148019ac2c766100ae544.png

要测试更多 Claude 提示示例,请选择"Load examples"。你可以查看和运行特定于 Claude 3 Haiku 的示例,如包含引用的高级问答、制作设计简报,以及非英语内容生成。

使用"Compare mode",你还可以使用样本提示比较 Claude 3 Haiku 和 Claude 2.1 模型的速度和智能,以生成个性化的电子邮件响应来解决客户问题。

0b5042dc8c782ab774e04a1c7abc5614.gif

通过选择"View API request",你还可以使用亚马逊云科技命令行界面(Amazon CLI)和 Amazon SDK 中的代码示例访问该模型。这里有一个 Amazon CLI 命令的示例:

 Bash 

aws bedrock-runtime invoke-model \
     --model-id anthropic.claude-3-haiku-20240307-v1:0 \
     --body "{\"messages\":[{\"role\":\"user\",\"content\":[{\"type\":\"text\",\"text\":\"Write the test case for uploading the image to Amazon S3 bucket\\n\"}]}],\"anthropic_version\":\"bedrock-2023-05-31\",\"max_tokens\":2000,\"temperature\":1,\"top_k\":250,\"top_p\":0.999,\"stop_sequences\":[\"\\n\\nHuman:\"]}" \
     --cli-binary-format raw-in-base64-out \
     --region us-east-1 \
     invoke-model-output.txt

使用新的 Anthropic Claude Messages API 格式进行 API 请求,它允许更复杂的交互(如图像处理)。如果你使用 Anthropic Claude Text Completions API,你应该从 Text Completions API 升级。

这是一个 Python 代码示例,用于发送描述图像文件的 Message API 请求:

 Python 

def call_claude_haiku(base64_string):


    prompt_config = {
        "anthropic_version": "bedrock-2023-05-31",
        "max_tokens": 4096,
        "messages": [
            {
                "role": "user",
                "content": [
                    {
                        "type": "image",
                        "source": {
                            "type": "base64",
                            "media_type": "image/png",
                            "data": base64_string,
                        },
                    },
                    {"type": "text", "text": "Provide a caption for this image"},
                ],
            }
        ],
    }


    body = json.dumps(prompt_config)


    modelId = "anthropic.claude-3-haiku-20240307-v1:0"
    accept = "application/json"
    contentType = "application/json"


    response = bedrock_runtime.invoke_model(
        body=body, modelId=modelId, accept=accept, contentType=contentType
    )
    response_body = json.loads(response.get("body").read())


    results = response_body.get("content")[0].get("text")
    return results

要了解更多关于 Claude 3 的示例代码,请参见这几篇社区文章:

  • 开始使用 Claude 3 on Amazon Bedrock

    https://community.aws/content/2bjzGyr9ZNmExZRzCsG5jXqvVUW/building-with-claude-3

  • 使用 Claude 3 Sonnet on Amazon Bedrock 创建 Diagrams to CDK/Terraform

    https://community.aws/content/2dGNoE0ovO4kSQFvSGgpFFHVgeh/image-to-cdk

  • 使用 Claude 3 on Amazon Bedrock 预测板球比赛获胜者

    https://community.aws/content/2dXbDsTUDNVU3RH5NwtfBpZjKre/predicting-cricket-match-winner-with-amazon-bedrock---anthropic-claude-3-sonnet-model

现已可用

Claude 3 Haiku 现已在美国西部(俄勒冈)地区提供,更多地区即将推出。请查看完整的地区列表以获取最新更新:

https://docs.aws.amazon.com/bedrock/latest/userguide/models-regions.html

Claude 3 Haiku 是性价比最高的选择。例如,与 Claude Instant 相比,Claude 3 Haiku 的每 1,000 个输入/输出 token 的价格低 68%,同时具有更高的智能水平。要了解更多信息,请参见 Amazon Bedrock 定价:https://aws.amazon.com/bedrock/pricing/

今天就在亚马逊云科技控制台上体验一下 Claude 3 Haiku on Amazon Bedrock 吧!

  • 原文链接:

    https://aws.amazon.com/blogs/aws/anthropics-claude-3-haiku-model-is-now-available-in-amazon-bedrock/

本篇作者

26d1cd230c623c5b133999f5e26bbe4c.jpeg

Channy Yun

亚马逊云科技的资深开发者布道师。他致力于帮助开发者使用最新的亚马逊云科技服务构建现代应用程序。他是一个务实的开发者和博客作者,热衷于社区技术学习和分享,帮助开发者参与全球亚马逊云科技用户组。他的主要研究方向包括开源、容器、存储、网络与安全以及物联网。

684b59dacbf88f672a2775093dd87e9e.gif

星标不迷路,开发更极速!

关注后记得星标「亚马逊云开发者」

28088629c8062af51bfba69d35388680.gif

听说,点完下面4个按钮

就不会碰到bug了!

c6fd5ca3d4782040a3001487349d7bea.gif

  • 16
    点赞
  • 18
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值