本文作者 Channy Yun
亚马逊云科技首席开发者布道师
翻译&编辑 Claude 3 Haiku
昨天,Claude 3 Haiku 已正式登陆 Amazon Bedrock(点击此处查看介绍)。Claude 3 Haiku 基础模型是 Claude 3 系列中最快速、最紧凑的模型,专为近乎瞬时的响应性和模仿人类互动的无缝生成式 AI 体验而设计。通过 Amazon Bedrock 访问 Claude 3 Haiku 模型,您可以为需要快速和准确定向性能的企业构建近乎即时响应的生成式 AI 应用程序。本文将带您开始在 Amazon Bedrock 中使用 Claude 3 Haiku 模型。
要了解更多关于 Claude 3 Haiku 特性和功能,您可以通过 Amazon Bedrock 访问 Anthropic Claude 系列模型:
https://aws.amazon.com/bedrock/claude/
开始使用 Claude 3 Haiku
如果你是 Anthropic 模型的使用新手,请前往 Amazon Bedrock 控制台,在左下角窗格中选择"Model access"。单独请求获取 Claude 3 Haiku 的访问权限。
要在控制台中测试 Claude 3 Haiku,请在左侧菜单窗格中选择"Playgrounds"下的"Text or Chat"。然后选择"Select model",选择"Anthropic"作为类别,选择"Claude 3 Haiku"作为模型。
要测试更多 Claude 提示示例,请选择"Load examples"。你可以查看和运行特定于 Claude 3 Haiku 的示例,如包含引用的高级问答、制作设计简报,以及非英语内容生成。
使用"Compare mode",你还可以使用样本提示比较 Claude 3 Haiku 和 Claude 2.1 模型的速度和智能,以生成个性化的电子邮件响应来解决客户问题。
通过选择"View API request",你还可以使用亚马逊云科技命令行界面(Amazon CLI)和 Amazon SDK 中的代码示例访问该模型。这里有一个 Amazon CLI 命令的示例:
Bash
aws bedrock-runtime invoke-model \
--model-id anthropic.claude-3-haiku-20240307-v1:0 \
--body "{\"messages\":[{\"role\":\"user\",\"content\":[{\"type\":\"text\",\"text\":\"Write the test case for uploading the image to Amazon S3 bucket\\n\"}]}],\"anthropic_version\":\"bedrock-2023-05-31\",\"max_tokens\":2000,\"temperature\":1,\"top_k\":250,\"top_p\":0.999,\"stop_sequences\":[\"\\n\\nHuman:\"]}" \
--cli-binary-format raw-in-base64-out \
--region us-east-1 \
invoke-model-output.txt
使用新的 Anthropic Claude Messages API 格式进行 API 请求,它允许更复杂的交互(如图像处理)。如果你使用 Anthropic Claude Text Completions API,你应该从 Text Completions API 升级。
这是一个 Python 代码示例,用于发送描述图像文件的 Message API 请求:
Python
def call_claude_haiku(base64_string):
prompt_config = {
"anthropic_version": "bedrock-2023-05-31",
"max_tokens": 4096,
"messages": [
{
"role": "user",
"content": [
{
"type": "image",
"source": {
"type": "base64",
"media_type": "image/png",
"data": base64_string,
},
},
{"type": "text", "text": "Provide a caption for this image"},
],
}
],
}
body = json.dumps(prompt_config)
modelId = "anthropic.claude-3-haiku-20240307-v1:0"
accept = "application/json"
contentType = "application/json"
response = bedrock_runtime.invoke_model(
body=body, modelId=modelId, accept=accept, contentType=contentType
)
response_body = json.loads(response.get("body").read())
results = response_body.get("content")[0].get("text")
return results
要了解更多关于 Claude 3 的示例代码,请参见这几篇社区文章:
开始使用 Claude 3 on Amazon Bedrock
https://community.aws/content/2bjzGyr9ZNmExZRzCsG5jXqvVUW/building-with-claude-3
使用 Claude 3 Sonnet on Amazon Bedrock 创建 Diagrams to CDK/Terraform
https://community.aws/content/2dGNoE0ovO4kSQFvSGgpFFHVgeh/image-to-cdk
使用 Claude 3 on Amazon Bedrock 预测板球比赛获胜者
https://community.aws/content/2dXbDsTUDNVU3RH5NwtfBpZjKre/predicting-cricket-match-winner-with-amazon-bedrock---anthropic-claude-3-sonnet-model
现已可用
Claude 3 Haiku 现已在美国西部(俄勒冈)地区提供,更多地区即将推出。请查看完整的地区列表以获取最新更新:
https://docs.aws.amazon.com/bedrock/latest/userguide/models-regions.html
Claude 3 Haiku 是性价比最高的选择。例如,与 Claude Instant 相比,Claude 3 Haiku 的每 1,000 个输入/输出 token 的价格低 68%,同时具有更高的智能水平。要了解更多信息,请参见 Amazon Bedrock 定价:https://aws.amazon.com/bedrock/pricing/
今天就在亚马逊云科技控制台上体验一下 Claude 3 Haiku on Amazon Bedrock 吧!
原文链接:
https://aws.amazon.com/blogs/aws/anthropics-claude-3-haiku-model-is-now-available-in-amazon-bedrock/
本篇作者
Channy Yun
亚马逊云科技的资深开发者布道师。他致力于帮助开发者使用最新的亚马逊云科技服务构建现代应用程序。他是一个务实的开发者和博客作者,热衷于社区技术学习和分享,帮助开发者参与全球亚马逊云科技用户组。他的主要研究方向包括开源、容器、存储、网络与安全以及物联网。
星标不迷路,开发更极速!
关注后记得星标「亚马逊云开发者」
听说,点完下面4个按钮
就不会碰到bug了!