langchain学习笔记(腾讯混元版)
01–大语言模型
前言
最近在学习大模型相关开发框架,由于openai的模型需要付费,需要魔法等原因,较为麻烦,因此选择使用国内的大模型。Deepseek太火导致充钱充不进去,遂放弃。阿里的通义千问和腾讯的混元新用户都送百万token的资源,对于学习练习一般是足够的,于是选用腾讯的混元大模型。
概述
本章节讲述如何使用 langchain 连接腾讯混元大模型,并进行输入得到输出。
langchain 安装
pip安装:
pip install langchain
pip install langchain-openai # 使用混元的openai兼容接口
连接大模型并测试输入输入
-
在项目的环境变量中添加API-KEY
使用pycharm编辑器:
此处的value值为混元大模型的api-key,在腾讯云–混元大模型官网可进行生成。 -
代码:
from langchain_core.messages import SystemMessage, HumanMessage
from langchain_openai import ChatOpenAI
model = ChatOpenAI(model="hunyuan-turbo", base_url="https://api.hunyuan.cloud.tencent.com/v1")
msg = [
SystemMessage(content="将以下内容翻译为英文"),
HumanMessage(content="你好,世界!")
]
result = model.invoke(msg)
print(result)
输出结果:
流式输出
代码:
from langchain_core.messages import SystemMessage, HumanMessage
from langchain_openai import ChatOpenAI
model = ChatOpenAI(model="hunyuan-turbo", base_url="https://api.hunyuan.cloud.tencent.com/v1")
msg = [
SystemMessage(content="将以下内容翻译为英文"),
HumanMessage(content="你好,世界!")
]
for token in model.stream(msg):
print(token.content, end="-")
输出结果:
参考文档
1、langchain 官方文档
https://python.langchain.com/docs/tutorials/
2、混元大模型 官方文档
https://cloud.tencent.com.cn/document/product/1729/101848