Langchain使用最新ChatGLM4快速开发，提示词的使用

已于 2024-02-26 23:09:52 修改
阅读量873 收藏 8
点赞数 7
文章标签： langchain 语言模型 python
于 2024-02-25 18:20:51 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/xuanjiong/article/details/136285355
版权

注：api处记得添加

此代码根据网上的原代码为基础，原代码无法直接运行，因此稍作修改，现在可以正常运行

修改的地方是最上方导入模块处，新导入两个对象PromptTemplate和LLMChain,以及最后一行代码修改为invoke函数

提示词的使用

在template中进行提示词的说明即可，template会将值传入prompt

xuanjiong
关注
  • 7
    点赞
  • 踩
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
002-ChatGLM4接入Langchain
Bankofli的博客
05-03 994
同时，为了能够运行在相对实惠的硬件上，GLM-130B还进行了INT4量化，以减少对计算资源的需求，同时尽量保持性能不受损失。基础能力（英文）：GLM-4 在 MMLU、GSM8K、MATH、BBH、HellaSwag、HumanEval等数据集上，分别达到GPT-4 94%、95%、91%、99%、90%、100%的水平。指令跟随能力：GLM-4在IFEval的prompt级别上中、英分别达到GPT-4的88%、85%的水平，在Instruction级别上中、英分别达到GPT-4的90%、89%的水平。
Langchain和ChatGLM代码包
04-28
在实际使用中，开发者首先需要安装Langchain和ChatGLM库，这通常通过Python的包管理器pip完成。之后，可以利用Langchain的API构建NLP任务，例如预处理文本数据、进行情感分析或生成句法树。对于ChatGLM，开发者需要...
LLMs之GLM-4：GLM-4的简介(全覆盖【对话版即ChatGLM4的+工具调用+多模态文生图】能力→Agent)、安装和使用方法、案例应用之详细攻略
热门推荐
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
01-16 1万+
​ LLMs之GLM-4：GLM-4的简介(全覆盖【对话版即ChatGLM4的+工具调用+多模态文生图】能力→Agent)、安装和使用方法、案例应用之详细攻略 目录 GLM-4的简介 GLM-4的安装和使用方法 GLM-4的案例应用 GLM-4的简介 2024年01月16日，智谱AI在「智谱AI技术开放日(Zhipu DevDay)」推出新一代基座大模型GLM-4。智谱AI发布 All Tools、GLMs、MaaS API、大模型
最新LangChain+GLM4开发AI应用程序系列（三）：RAG检索增强生成篇
悠杨的专栏
03-04 2979
这篇文章首先介绍了在LangChain中使用RAG的重要组成部分，包括文档加载器、文本分割器、嵌入模型、向量数据库，然后通过一个示例演示了LLM如何通过RAG检索增强生成的方式，借助特定领域用户数据，更准确的回答用户的提问。
[大模型]GLM-4-9b-Chat 接入 LangChain
最新发布
FL1623863129的博客
06-11 900
在上述类定义中，我们分别重写了构造函数和 _call 函数： 对于构造函数，我们在对象实例化的一开始加载本地部署的 ChatGLM4 模型，从而避免每一次调用都需要重新加载模型带来的时间浪费;_call 函数是 LLM 类的核心函数，Langchain 会调用改函数来调用LLM，在改函数中，我们调用已实例化模型的 generate 方法，从而实现对模型的调用并返回调用结果。此外，在实现自定义 LLM 类时，按照 langchain 框架的要求，我们需要定义 _identifying_params 属性。
使用LangChain调用智谱AI的glm-4对话
wcuu的博客
04-01 1200
【代码】使用LangChain调用智谱AI的glm-4对话。
langchain调用语言模型chatglm4从智谱AI
weixin_50161877的博客
03-26 3089
参考了一些官方和他人帖子：主要就是LLM类的继承和重写# 函数继承和重写@property我们这里的本地模型是chatglm6B，结果：显存：速度：10个字需要0.12s。
ChatGLM基于LangChain应用开发实践（二）
m0_49380401的博客
01-12 1325
也可以通过第1次下载模型时指定保存到本地cache，这样后面就可以直接从cache加载模型从而节约下载时间。三、LLM基于LangChain访问知识库与用户交互演示。，打开这个文档，可以看到红色框部分明确提到试用期是。这次LLM给出了正确的回答，试用期是1个月。一、使用notion样例数据构建知识库。二、加载ChatGLM-3模型。
Langchain-Chatchat本地搭建ChatGLM3模型和提取PDF内容
penngo的专栏
03-08 3409
该要求仅针对标准模式，轻量模式使用在线模型，不需要安装torch等库，也不需要显卡即可运行。本文运行例子：上传一个PDF文档到知识库，并通过问答的方式提取PDF内容。问答方式提取内容，除了第一个社会信用代码不准确外，其它问题都能返回准确答案。更多信息可通过 python startup.py -h 查看。配置环境变量，输入vi ~/.bashrc命令打开文件。当前pytorch最高支持12.1，在官网。，支持的最高版本是12.3。下载完成，输入下边命令安装。下载12.1.1版本。
langchain-ChatGLM.tar.gz
07-04
4. **示例代码和教程**：为了帮助开发者快速上手，langchain-ChatGLM可能包含了使用示例和教程，指导如何构建和运行对话系统，以及如何评估其性能。 5. **配置文件和模型权重**：压缩包中可能还包含了预训练模型的...
Langchain-Chatchat（原Langchain-ChatGLM）基于 Langchain 与 ChatGLM 等语言
02-06
Langchain-Chatchat（原Langchain-ChatGLM）基于 Langchain 与 ChatGLM 等语言模型的本地知识库问答 | Langchain-Chatchat (formerly langchain-ChatGLM), local knowledge based LLM (like ChatGLM) QA app with ...
LangChain+ChatGLM大模型应用落地实践（一）
weixin_45067120的博客
07-31 4024
LangChain是一个近期非常活跃的开源代码库，目前也还在快速发展中，旨在让大家快速构建自己的LLM对话产品。当然，该框架也支持自定义接入其他机构、企业开源的LLMs的API和模型（比如：ChatGLM、文心一言等）。届时，LangChain的版本已经更新到0.0.123，目前保持着每天1发版的更新速度。LangChain主要包括以下几个主要的模块：Prompt Templates：支持自定义Prompt工程的快速实现以及和LLMs的对接；
【LangChain实战】开源模型学习（2）-ChatGLM3
xqdd的专栏
12-03 1316
ChatGLM3 是智谱AI和清华大学 KEG 实验室联合发布的新一代对话预训练模型。ChatGLM3-6B 是 ChatGLM3 系列中的开源模型，在保留了前两代模型对话流畅、部署门槛低等众多优秀特性的基础上，ChatGLM3-6B 引入了如下特性：更强大的基础模型： ChatGLM3-6B 的基础模型 ChatGLM3-6B-Base 采用了更多样的训练数据、更充分的训练步数和更合理的训练策略。
chatglm4使用
weixin_38226321的博客
01-22 3655
登录，这里注册就送10万token，去API keys拿到自己的key。给自己的环境安装一下他们的库。使用流式输出时，在messages里面添加stream参数，打印时使用循环。glm4开始闭源了，所以就使用api来试试。
最新LangChain+GLM4开发AI应用程序系列（一）：快速入门篇
悠杨的专栏
02-18 7278
本文是最新版LangChain使用智谱AI的GLM-4大模型开发AI应用程序系列的第一篇文章-快速入门篇。 首先对LangChain做了介绍，LangChain是哈里森·蔡斯 (Harrison Chase) 于2022年10月创建的，对于AI应用程序开发来说，它的地位就相当于Java界的Spring。LangChain的整体架构分为六层，它的核心概念就是链，链接外部一切能链接的东西赋予LLM力量。 然后从零基础开始介绍了LangChain环境的安装和配置，包括Conda、Jupyter Noteboo
LangChain + ChatGLM2-6B 搭建个人专属知识库
程序员树先生的博客
07-14 6819
之前教过大家利用 langchain + ChatGLM-6B 实现个人专属知识库，非常简单易上手。最近，智谱 AI 研发团队又推出了 ChatGLM 系列的新模型 ChatGLM2-6B，是开源中英双语对话模型 ChatGLM-6B 的第二代版本，性能更强悍。 树先生之所以现在才更新 ChatGLM2-6B 知识库教程，是想等模型本身再多迭代几个版本，不至于刚出的教程很快不适配，或者项目本身一堆 bug，那样大家使用体验也不好。
chatglm4提示词的使用，若有不懂可参考api文档
xuanjiong的博客
02-23 537
原代码使用的是gpt-3.5-turbo，我将此模型更改为glm4使用，依旧可以使用。最上方填写api即可。
【玩转 GPU】搭建本地知识库--chatGLM+langchain（尝鲜篇）
Y525698136的博客
05-17 1235
有一天发现，在腾讯文档中想搜索之前写的东西需要收费了。这钱非花不可吗？好像不用。我们可以利用langchain+chatGLM在本地搭建自己的知识库，除了能搜索到文档这个功能，还能基于知识库内容和你进行对话问答～
langchain怎么使用chatglm
08-25
要使用langchain和chatglm进行知识库的搭建，可以按照以下步骤进行操作: 1. 首先，确保你已经将langchain和chatglm这两个工具部署到本地。 2. 通过GitHub获取langchain-ChatGLM的源代码，可以在该项目的GitHub页面找到相关信息。 3. 在langchain-ChatGLM的代码仓库中，可以找到详细的使用说明文档。你可以在文档的StartOption.md文件中找到有关langchain和chatglm的具体使用方法。 4. 阅读文档中的说明，了解如何使用langchain和chatglm搭建本地的知识库。文档将提供一些关于配置选项和参数的指导，以便你能够正确地设置和启动langchain和chatglm。 5. 根据文档中的指示，配置langchain和chatglm的参数，确保它们能够协同工作。这可能涉及到设置语言模型、知识库的路径、启动选项等。 6. 启动langchain和chatglm，确保它们能够正常运行。 通过按照以上步骤操作，你就可以成功地使用langchain和chatglm搭建本地的知识库了。请确保在使用过程中，参考文档中的说明，以便正确地配置和启动这两个工具。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* [ModaHub魔搭社区：ChatGLM 集成进LangChain的教程](https://blog.csdn.net/qinglingye/article/details/131493038)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] - *2* *3* [利用langchain-ChatGLM、langchain-TigerBot实现基于本地知识库的问答应用](https://blog.csdn.net/u013171226/article/details/131554340)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值