01--langchain(腾讯混元版)--大语言模型

langchain学习笔记(腾讯混元版)

01–大语言模型

前言

最近在学习大模型相关开发框架,由于openai的模型需要付费,需要魔法等原因,较为麻烦,因此选择使用国内的大模型。Deepseek太火导致充钱充不进去,遂放弃。阿里的通义千问和腾讯的混元新用户都送百万token的资源,对于学习练习一般是足够的,于是选用腾讯的混元大模型。

概述

本章节讲述如何使用 langchain 连接腾讯混元大模型,并进行输入得到输出。

langchain 安装

pip安装:

pip install langchain
pip install langchain-openai  # 使用混元的openai兼容接口

连接大模型并测试输入输入

  1. 在项目的环境变量中添加API-KEY
    使用pycharm编辑器: 在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    此处的value值为混元大模型的api-key,在腾讯云–混元大模型官网可进行生成。

  2. 代码:

from langchain_core.messages import SystemMessage, HumanMessage
from langchain_openai import ChatOpenAI

model = ChatOpenAI(model="hunyuan-turbo", base_url="https://api.hunyuan.cloud.tencent.com/v1")

msg = [
    SystemMessage(content="将以下内容翻译为英文"),
    HumanMessage(content="你好,世界!")
]

result = model.invoke(msg)

print(result)

输出结果:
在这里插入图片描述

流式输出

代码:

from langchain_core.messages import SystemMessage, HumanMessage
from langchain_openai import ChatOpenAI

model = ChatOpenAI(model="hunyuan-turbo", base_url="https://api.hunyuan.cloud.tencent.com/v1")

msg = [
    SystemMessage(content="将以下内容翻译为英文"),
    HumanMessage(content="你好,世界!")
]

for token in model.stream(msg):
    print(token.content, end="-")

输出结果:
在这里插入图片描述

参考文档

1、langchain 官方文档
https://python.langchain.com/docs/tutorials/
2、混元大模型 官方文档
https://cloud.tencent.com.cn/document/product/1729/101848

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值