GPT-4o被超越了？Claude最新的3.5模型来了！在AWS的Bedrock上立即体验吧

Claude 3.5 Sonnet现身了！？

Anthropic 公司的生成 AI 模型「Claude」最新版本，Claude 3.5 Sonnet 登场了。

Introducing Claude 3.5 Sonnet \ Anthropic

Claude 3.5的特点

旧世代的Claude 3按性能顺序分为Opus > Sonnet > Haiku三种模型。这次发布的Claude 3.5版本中，中等性能的Sonnet率先登场。

（图片引用自Anthropic官方网站）

与旧世代中最高性能的Claude 3 Opus以及其他公司的最新LLM的比较如下：

•  与Claude 3 Opus相比，速度提升了2倍
• 价格与Claude 3 Sonnet相同（即Opus的1/5）
•  在多个基准测试中，得分与竞争对手的LLM相同或更高

（图片引用自Anthropic官方网站）

依然支持多模态输入，在图像识别的基准测试中也普遍获得了业界顶尖的分数。

（图片引用自Anthropic官方网站）

此外，虽然性能显著提升，但Anthropic强调的“安全性”也依旧维持了Claude 3相同的标准。
 

新功能「Artifact」

模型版本之外，Claude的官方Web应用程序「Claude.ai」新增了一个名为“Artifact”的功能。

将“Artifact”作为实验性功能启用后，Claude生成的内容会显示在屏幕右侧。

这种设置改变了以往的聊天界面，提供了一种仿佛与Claude一起创造成果物的体验。

如何使用呢？

可以通过Claude的官方Web应用程序「Claude.ai」立即免费使用。在发送聊天时选择模型“Claude 3.5 Sonnet”。还可以启用前述的Artifact功能。

Claude

还可以使用iOS版应用程序。

Claude by Anthropic

上述之外呢，还可以通过Claude官方API使用Claude 3.5 Sonnet。

Claude API

最推荐的方式是在Amazon Bedrock上进行尝鲜试用。

Anthropic’s Claude 3.5 Sonnet model now available in Amazon Bedrock: Even more intelligence than Claude 3 Opus at one-fifth the cost | AWS News Blog

在AWS的Bedrock上进行测试时，可以通过北弗吉尼亚区域的模型访问来启用和使用该功能。

在Amazon Bedrock进行试用

通过GUI（AWS管理控制台）进行试用。

API（Python SDK）

Claude 3.5 Sonnet的模型ID是anthropic.claude-3-5-sonnet-20240620-v1:0。

示例代码如下：

# 导入外部库
import json
import boto3

# 创建Bedrock客户端
bedrock = boto3.client("bedrock-runtime")

# 定义请求主体
body = json.dumps(
    {
        "anthropic_version": "bedrock-2023-05-31",
        "max_tokens": 1000,
        "messages": [
            {
                "role": "user",
                "content": "Bedrockってどういう意味？",
            }
        ],
    }
)

# 定义模型（Claude 3.5 Sonnet）
modelId = "anthropic.claude-3-5-sonnet-20240620-v1:0"

# 定义HTTP头
accept = "application/json"
contentType = "application/json"

# 定义响应
response = bedrock.invoke_model(
    body=body, modelId=modelId, accept=accept, contentType=contentType
)
response_body = json.loads(response.get("body").read())
answer = response_body["content"][0]["text"]

# 在控制台显示生成的文本
print(answer)

输出内容

此外，使用LangChain的AWS专用包，还可以轻松编写流式输出。

AWS | 🦜️🔗 LangChain

示例代码如下：

from langchain_aws import ChatBedrock
from langchain_core.messages import HumanMessage

chat = ChatBedrock(model_id="anthropic.claude-3-5-sonnet-20240620-v1:0")

messages = [HumanMessage(content="朗诵琵琶行")]

for chunk in chat.stream(messages):
    print(chunk.content, end="", flush=True)

print()

Coming soon...

这次发布的是Sonnet版本，但上位型号“Opus”和高速低价型号“Haiku”也将于近期推出。最顶级的Claude 3.5 Opus将展现何种高性能，令人充满期待！