Langchain-chatchat（开源项目基于知识库的问答）

已于 2023-09-17 19:46:09 修改
阅读量994 收藏 3
点赞数 6
文章标签： langchain
于 2023-09-14 20:41:43 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/nlpnoproble/article/details/132889483
版权

本文章基于Autodl服务器部署的开源项目（可以去租一个16G或24G的服务器）

这里是用镜像源里chatglm2-6b的模型，需要12.5G的显存（如果想要更长的上下文可以下载charglm2-6b-32k这个模型推理需要20G显存）

一共有三种对话模式

1.基于LLM的对话

2.基于本地知识库的回答

3.基于搜索引擎的回答

这里是一个实现demo

这里是用docker直接部署CodeWithGPU | 能复现才是好算法

里面的ssh对于新手可能不太好理解他需要你在本地cmd里创建相对应的接口

ssh -CNg -L 6006:127.0.0.1:6006 root@123.125.240.150 -p 42151

上面的命令是将6006端口映射成127.0.0.1:6006这样的本地demo，他@后面的ip需要换成你建的服务器的ip，-p后的端口号换成你自己服务器的端口

这里介绍一下chatglm2-6b

2048的上下文长度

采用旋转位置编码，RMSNorm归一化，激活函数为GeGLu

它有28层transform，每层transform里有32个头，embeding是4096维度进行编码

项目地址：https://github.com/chatchat-space/Langchain-Chatchat/tree/master

NLPnoproble
关注
基于LangChain-Chatchat实现的RAG-本地知识库的问答应用[2]-简洁部署版
丨汀、的博客
06-15 294
基于LangChain-Chatchat实现的RAG-本地知识库的问答应用[2]-简洁部署版
基于LangChain-Chatchat实现的RAG-本地知识库的问答应用[1]-最新版快速实践并部署（检索增强生成RAG大模型）
丨汀、的博客
06-13 1601
基于LangChain-Chatchat实现的RAG-本地知识库的问答应用[1]-最新版快速实践并部署（检索增强生成RAG大模型）
LLM-4-Langchain-Chatchat
qq_15821487的博客
08-23 397
模型openai api接口服务：两种模型一致是纯open ai的接口方式，一种是open ai的接口和langchain融合的方式，对外都是以openai的接口规范。服务依赖一次是：webui接口服务》api接口服务》模型openai api接口服务》模型控制器接口服务》模型接口服务。api接口服务：本项目的api，融合向量模型，向量库，数据处理和langchain的接口。模型控制器接口服务：控制模型接口的分发。模型接口服务：语言模型的直接输入和输出。webui接口服务：和用户交互。
Langchain-Chatchat大语言模型本地知识库的踩坑、部署、使用
积跬步，至千里。
12-08 7000
Langchain-Chatchat是一个基于ChatGLM大语言模型与Langchain应用框架实现的大语言模型本地知识库应用项目。
【LLM大模型】Langchain-Chatchat 源码部署测试
Y525698136的博客
07-31 1657
【LLM大模型】Langchain-Chatchat 源码部署测试
AI菜鸟向前飞 — LLM简介
2401_82469710的博客
05-11 718
AI菜鸟向前飞 — LLM简介
Langchain-Chatchat 教程
最新发布
gitblog_00496的博客
08-08 744
Langchain-Chatchat 教程 Langchain-ChatchatLangchain-Chatchat（原Langchain-ChatGLM）基于 Langchain 与 ChatGLM 等语言模型的本地知识库问答 | Langchain-Chatchat (formerly langchain-ChatGLM), local knowledge based LLM (like C...
Langchain-chatchat： Langchain基本概念
2401_84495872的博客
06-17 1302
理解了chains的作用和意义，才能真正理解Langchain的作用和意义，个人理解，Langchain就像高达玩具一样，可以融合市场上主流的大模型，并且提供了组合调用链路以供使用者快速上手使用，也支持使用者自己定义组装自己的调用链路，以此来满足各种各种的场景需求，因此与其说Langchain是个框架和工具，倒不如说Langchain是一个设计模式或者理念，使用者不应该拘泥于某一种的使用方式，而是探索在不同的场景中如何让chains更加高效的工作，甚至是自定义自己的chains。
Langchain-Chatchat基于 Langchain 与 ChatGLM 等语言模型的本地知识库问答
01-25
基于 ChatGLM 等大语言模型与 Langchain 等应用框架实现，开源、可离线部署的检索增强生成(RAG)大模型知识库项目。版本0.2.9版本。 受 GanymedeNil 的项目 document.ai 和 AlexZhangji 创建的 ChatGLM-6B Pull ...
开源代码基于langchain的大模型本地知识库系统Langchain-ChatChat
06-07
【开源代码】基于langchain的大模型本地知识库系统 思想实现的基于本地知识库的问答应用，目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案。 依托于本项目支持的开源 LLM 与 ...
基于LangChain-Chatchat实现智能问答系统
2301_78234743的博客
05-06 1108
政务方向，直接推组长，流程推进快，有意可私信，官网可见此岗位要求：尽快入职，HC地点优先北京 ，每周。我真绷不住了，快手4/25面之后泡到现在，实在等不及了打电话去问hr，一问说是已经离职了，并且不知道。一面1、自我介绍2、项目介绍、项目亮点3、盒模型4、实现水平垂直居中5、CSS实现三角形6、JS的数。base 地都是上海，美团是到店下面的本地核心商业，做的应该是基建相关的技术，转正率不知道怎么样。又是面的稀烂的一集两个面试官拷打我的项目，话说这不是一面吗主要拷打在压测这一块，看得出来面试官对这块。
Langchain-Chatchat 从入门到精通（基于本地知识库的问答系统）（更新中）
热门推荐
艰难困苦，玉汝于成。
04-10 1万+
一种利用 langchain 思想实现的基于本地知识库的问答应用，目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案。
LangChain-Chatchat：基于LangChain和ChatGLM2-6B构建本地离线私有化知识库
FrenzyTechAI的博客
08-27 4916
自从去年GPT模型火爆以来，降低了很多个人和企业进入人工智能领域的门槛，对于大模型尤其是开源的大模型国内应该比较受关注和期待，毕竟高额的成本也能将不少人阻挡在门外，其次，大家都希望在产品中集成LLM的能力，结合业务来落地智能化应用，提升产品的竞争力，最直接的应用就是构建知识库。
基于 Langchain-Chatchat，我搭建了一个本地知识库问答系统
2201_75499313的博客
02-01 2281
前沿技术资讯、算法交流、求职内推、算法竞赛、面试交流(校招、社招、实习)等、与 10000+来自港科大、北大、清华、中科院、CMU、腾讯、百度等名校名企开发者互动交流~本项目实现原理如下图所示，过程包括 加载文件 -> 读取文本 -> 文本分割 -> 文本向量化 -> 问句向量化 -> 在文本向量中匹配出与问句向量最相似的。如需在本地或离线环境下运行本项目，需要首先将项目所需的模型下载至本地，通常开源 LLM 与 Embedding 模型可以从 HuggingFace 下载。， 不然该项目跑不动。
【LangChain-Chatchat】本地部署模型及搭建个人/企业内部知识库
python1234567_的博客
05-30 1422
基于 ChatGLM 等大语言模型与 Langchain 等应用框架实现，开源、可离线部署的检索增强生成(RAG)大模型知识库项目。该项目支持开源 LLM 与 Embedding 模型，亦可实现全部使用开源模型离线私有部署。与此同时，也支持 OpenAI GPT API 的调用，当前最新版本为0.2.10。0.3x版本可以关注作者的项目地址。支持加载本地模型及联网模型如智谱AI、阿里云通义千问、百川、讯飞星火、百度千帆、字节火山方舟、ChatGPT、Gimini和Azure OpenAI。
使用 Langchain-Chatchat 搭建一个自己的知识库（使用google实验室环境）
weixin_44787578的博客
05-22 1429
本文将在 google 实验室中使用 Langchain-Chatchat 搭建一个知识库，还可以进行聊天等功能。由于是在 google 实验室上面跑代码，所以本地电脑什么配置都无所谓！效果图运行起来后可以上传各种文档文件到知识库。
Langchain-Chatchat+Xinference集成部署
╰☆ぷ天然ルo槑ご的博客
08-06 794
Langchain-Chatchat+Xinference集成部署安装环境：系统：Anolis OS 8.9python版本：Python 3.9.19Langchain-Chatchat版本：0.3.1.3Xinference版本：v0.13.3模型选择：部署内网IP：192.168.18.55安装目录：/data/langchain/chatchat_data。
Windows和Linux中Langchain-chatchat0.3.1.3部署
qq_43612410的博客
07-26 1129
langchain-chatchat部署
基于langchain-chatchat搭建的本地知识库，怎么迁移到另一台服务器
08-04
LangChain-Chatchat是一个基于Python的自然语言处理框架，通常用于创建聊天机器人或知识图谱。如果你想要将基于它搭建的本地知识库迁移到另一台服务器，可以按照以下步骤操作： 1. **备份数据**： - 确保你有一个完整的数据库备份，包括所有文本、模型权重和其他配置文件。 2. **准备新环境**： - 安装必要的依赖包，比如`langchain-chatchat`库，以及数据库驱动（如SQLite、MySQL或PostgreSQL）。 3. **迁移数据**： - 如果是数据库存储，导出原始数据库到SQL文件，然后在目标服务器上导入该文件。 - 对于非结构化的文本数据，可能需要手动复制，或者使用ETL工具协助迁移。 4. **配置更新**： - 将应用程序代码、配置文件以及任何必要的资源（如模型文件）上传至新服务器。 - 使用相同的命令行流程启动应用程序，确保一切运行正常。 6. **测试迁移效果**： - 进行一些查询来验证知识库是否正确加载和可用。
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值