利用Langchain与百度千帆平台实现智能聊天应用

ahdfwcevnhrtds

于 2024-10-06 09:45:56 发布

阅读量161

点赞数 2

文章标签： langchain 百度 dubbo python

本文链接：https://blog.csdn.net/ahdfwcevnhrtds/article/details/142723355

版权

引言

在人工智能技术快速发展的今天，企业开发者对于能够提供一站式大模型开发和服务运营的平台需求愈发迫切。百度AI云的千帆平台便是这样一个致力于满足企业开发者需求的平台。本文将介绍如何使用Langchain与千帆平台集成，实现智能聊天应用。

主要内容

千帆平台简介

千帆平台提供了丰富的AI开发工具和环境，支持包括文心一言（ERNIE-Bot）以及各类第三方开源模型。根据功能，模型主要分为嵌入、聊天和补全三种类型。

API初始化

为了使用基于百度千帆的LLM服务，开发者需要初始化API密钥。这可以通过环境变量或直接在代码中初始化参数来实现：

export QIANFAN_AK=Your_api_key
export QIANFAN_SK=Your_secret_Key

支持的模型

当前支持的模型包括但不限于：

ERNIE-Bot-turbo
ERNIE-Bot
Llama-2 系列
ChatGLM2-6B-32K
AquilaChat-7B

环境设置

我们将通过一个简单的代码示例来展示如何设置环境并调用API。

import os
from langchain_community.chat_models import QianfanChatEndpoint
from langchain_core.language_models.chat_models import HumanMessage

# 设置API Key和Secret Key
os.environ["QIANFAN_AK"] = "Your_api_key"
os.environ["QIANFAN_SK"] = "Your_secret_Key"

# 使用API代理服务提高访问稳定性
chat = QianfanChatEndpoint(streaming=True)
messages = [HumanMessage(content="Hello")]
response = chat.invoke(messages)
print(response.content)

代码示例

# 示例代码展示如何使用不同模型进行聊天
chatBot = QianfanChatEndpoint(
    streaming=True,
    model="ERNIE-Bot",
)

# 发送消息并获取回复
messages = [HumanMessage(content="Hello")]
response = chatBot.invoke(messages)
print(response.content)

# 设置模型参数
chat.invoke(
    [HumanMessage(content="Hello")],
    **{"top_p": 0.4, "temperature": 0.1, "penalty_score": 1}
)