使用Langchain与百度千帆平台实现聊天AI：让开发更轻松

最新推荐文章于 2024-10-02 14:31:55 发布

cgsayuclv

最新推荐文章于 2024-10-02 14:31:55 发布

阅读量415

点赞数 3

文章标签： langchain 百度人工智能 python

本文链接：https://blog.csdn.net/cgsayuclv/article/details/142678607

版权

引言

在当今快速发展的AI领域，企业对于大模型应用的需求日益增加。百度AI Cloud的千帆平台提供了一站式大模型开发和服务操作平台，其中包含模型文心一言（ERNIE-Bot）以及其他开源模型。本篇文章将介绍如何通过Langchain与千帆平台集成，使用聊天模型来构建强大的对话应用。

主要内容

1. 平台简介

千帆平台支持多种类型的大模型应用，包括Embedding、Chat和Completion等。为了简化开发，千帆不仅提供了丰富的AI开发工具，还为用户提供了完整的开发环境。本篇文章将着重介绍如何使用Langchain库与千帆平台的Chat模型进行交互。

2. API 初始化

在使用千帆平台的语言模型服务时，需要初始化相关参数。可以将AK（Access Key）和SK（Secret Key）设置为环境变量：

export QIANFAN_AK=XXX
export QIANFAN_SK=XXX

支持的模型包括：ERNIE-Bot-turbo、Llama-2-13b-chat等。

3. 设置和使用

开始设置并调用API：

import os
from langchain_community.chat_models import QianfanChatEndpoint
from langchain_core.language_models.chat_models import HumanMessage

# 设置环境变量
os.environ["QIANFAN_AK"] = "Your_api_key"
os.environ["QIANFAN_SK"] = "You_secret_Key"

# 创建聊天对象
chat = QianfanChatEndpoint(streaming=True)

# 创建消息
messages = [HumanMessage(content="Hello")]

# 调用聊天接口
chat.invoke(messages)

# 异步调用
await chat.ainvoke(messages)

4. 使用不同的模型

虽然默认模型为ERNIE-Bot-turbo，但你可以选择其他模型：

chatBot = QianfanChatEndpoint(
    streaming=True,
    model="ERNIE-Bot",
)

messages = [HumanMessage(content="Hello")]
chatBot.invoke(messages)

5. 模型参数

目前，只支持ERNIE-Bot和ERNIE-Bot-turbo的以下参数：

temperature
top_p
penalty_score

chat.invoke(
    [HumanMessage(content="Hello")],
    **{"top_p": 0.4, "temperature": 0.1, "penalty_score": 1},
)

代码示例

完整示例代码展示调用和处理响应的流程：

import os
from langchain_community.chat_models import QianfanChatEndpoint
from langchain_core.language_models.chat_models import HumanMessage

# 设置API密钥
os.environ["QIANFAN_AK"] = "Your_api_key"
os.environ["QIANFAN_SK"] = "You_secret_Key"

# 使用API代理服务提高访问稳定性
chat = QianfanChatEndpoint(streaming=True)

# 创建消息
messages = [HumanMessage(content="Hello")]

# 调用聊天接口
response = chat.invoke(messages)
print(response.content)