(25-6-01)基于本地知识库的自动问答系统（LangChain+ChatGLM+ModelScope/Huggingface部署）:基于ModelScope的ChatGLM对话系统（1）

最新推荐文章于 2024-10-07 01:23:55 发布
最新推荐文章于 2024-10-07 01:23:55 发布
阅读量623 收藏 4
点赞数 9
分类专栏： 《NLP算法实战》 大模型从入门到实战(数据集、训练、RAG、多模态) 文章标签： langchain 人工智能 python 自然语言处理 深度学习 ChatGLM
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/asd343442/article/details/139454237
版权

13.4  基于ModelScope的ChatGLM对话系统

ModelScope是一个网站平台，致力于汇聚各领域最先进的机器学习模型，并提供一站式服务，包括模型探索体验、推理、训练、部署和应用等功能。通过ModelScope，用户可以方便地访问和应用各种机器学习模型，加速项目开发和研究过程。ModelScope还提供了丰富的模型资源和工具，帮助用户更好地理解和利用机器学习技术。在本项目的“modelscope”目录中，利用了ModelScope网站托管的的预训练模型ZhipuAI/ChatGLM-6B模型实现了问答系统，成功的实现了在ModelScope平台的部署工作。

13.4.1  基于ChatGLM-6B 模型的语言生成器

文件chatglm_llm.py实现了一个基于 ChatGLM模型（该模型使用了预训练的 ChatGLM-6B 模型）的语言生成器，它继承了 LangChain 库中的 LLM 基类&

了解本专栏 订阅专栏 解锁全文 超级会员免费看
码农三叔
关注
专栏目录
订阅专栏
(25-1)基于本地知识库的自动问答系统（LangChain+ChatGLM+ModelScope/Huggingface部署）:背景介绍+项目介绍
码农三叔
05-31 1560
在当前人工智能技术快速发展的背景下，越来越多的大型语言模型被应用于各种领域，其中包括自然语言处理和智能问答系统。随着这些模型的普及，人们对于构建自己的定制化问答系统的需求也越来越高。在人工智能技术飞速发展的大环境下，为了满足用户对自定义问答系统的需求，利用先进的语言模型和嵌入模型，构建了一个灵活、高效的自动问答应用。在这样的背景下，LangChain-ChatGLM-Webui应运而生。本项目旨在展示如何利用先进的语言模型和嵌入模型，构建一个基于本地知识的自动问答应用。
(25-5-03)基于本地知识库的自动问答系统（LangChain+ChatGLM+ModelScope/Huggingface部署）:实现Web端的问答系统（3）
码农三叔
06-04 1146
然后，根据是否使用网络搜索，获取网络内容。接下来，调用 knowladge_based_chat_llm 对象的 get_knowledge_based_answer 方法，传入相应的参数，以获取基于知识的答案。（12）函数init_vector_store用于初始化知识向量存储，此函数接收一个文件对象 file_obj作为参数，并利用knowladge_based_chat_llm对象的 init_knowledge_vector_store方法来生成一个包含文件对象名称的知识向量存储。
通过ModelScope开源多模态Embedding模型进行向量生成
qq_41362382的博客
06-14 649
本文介绍如何通过ModelScope魔搭社区中的多模态表征开源模型进行多模态向量生成，并入库至向量检索服务DashVector中进行向量检索。
深入理解ModelScope嵌入模型：从入门到实践
ppoojjj的博客
09-01 860
ModelScope是阿里巴巴达摩院开源的一个大型模型仓库，提供了丰富的预训练模型和数据集。其中，嵌入模型是一个重要组成部分，可用于生成文本的向量表示。本文介绍了ModelScope嵌入模型的基本概念和使用方法，并通过实际例子展示了其在语义相似度计算中的应用。ModelScope嵌入模型为NLP任务提供了强大而灵活的工具。ModelScope官方文档LangChain文档中的嵌入模型部分《深度学习进阶：自然语言处理》by Yoav Goldberg。
探索ModelScope Embeddings：轻松实现文本嵌入
jaioyfpo的博客
10-03 442
ModelScope Embeddings简化了文本嵌入过程，为开发人员提供了强大的工具。ModelScope官方文档嵌入模型概念指南嵌入模型实现指南。
通过ModelScope开源Embedding模型将图片转换为向量
weixin_42444815的博客
07-31 72
本文介绍如何通过ModelScope魔搭社区中的视觉表征模型将图片转换为向量，并入库至向量检索服务DashVector中进行向量检索。ModelScope魔搭社区旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单。ModelScope魔搭社区的愿景是汇...
(25-4-01)基于本地知识库的自动问答系统（LangChain+ChatGLM+ModelScope/Huggingface部署）: 构建和部署对话系统（1）
码农三叔
06-02 881
在初始化模型配置信息的过程中，根据指定的大型语言模型名称，确定所需的模型类型（例如 'chatglm'、'belle'、'vicuna'），并从预先定义的模型字典中获取相应的模型路径。在函数 reinit_model的内部，尝试调用 knowladge_based_chat_llm 对象的 init_model_config 方法，通过传入新的模型名称来重新配置和初始化模型。在执行方法get_knowledge_based_answer的过程中，首先根据输入的网络内容，构建一个提示模板，用于引导答案生成。
(25-5-01)基于本地知识库的自动问答系统（LangChain+ChatGLM+ModelScope/Huggingface部署）:实现Web端的问答系统（1）
码农三叔
06-03 761
（1）下面这段代码导入了一系列Python模块，包括系统模块、Gradio、NLTK（自然语言处理工具包）、Sentence Transformers、DuckDuckGo搜索引擎的API、LangChain库中的一些模块（用于处理文档和嵌入）、Hugging Face的模型嵌入库、LangChain中的提示模板等。类KnowledgeBasedChatLLM的实例可以用于基于知识的对话系统，结合了预训练的语言模型和词嵌入模型，可以根据输入的问题和已有的知识进行回答。
(25-7-03)基于本地知识库的自动问答系统（LangChain+ChatGLM+ModelScope/Huggingface部署）:基于Gradio Web的问答系统
码农三叔
06-09 1394
具体来说，字典中的键是嵌入模型的名称，例如"rocketqa-zh-base-query"、"rocketqa-zh-dureader"等，而对应的值则是该模型在应用程序中的标识符，如"rocketqa-zh-base-query-encoder"、"rocketqa-zh-dureader-query-encoder"等。允许用户选择不同的语言模型和嵌入模型，上传自定义的知识库文件，并与 ChatLLM 进行交互，以获取基于本地知识的自动问答服务。具体实现流程如下所示。图13-3 对话界面。
探索ModelScope Embedding：如何轻松实现文本嵌入
最新发布
mmlihaio的博客
10-07 315
本文介绍了如何使用ModelScope的Embedding类实现文本嵌入的基本用法。ModelScope Embedding模型概念指南ModelScope Embedding模型指南通过不断练习和探索，相信你能在NLP项目中更好地应用这些技术。
【LLM 部署chatglm3完整教程超详细（国内急速下载modelscope）】
qq_39749966的博客
02-06 1093
【LLM 部署chatglm3完整教程超详细（国内急速下载modelscope）】
LLM RAG 多种方式装载LLM的实践
weixin_43990004的博客
01-22 1030
基于行业SOP、行业标准、互联网实时信息等领域外部知识构建私域知识向量模型，设计RAG系统用于多文档、多源数据、多维数据的检索器，设计优化双编码、联合编码等方法的信息生成器，使得生成组件能够更深入地理解问题背后的上下文，并产生更加信息丰富的回答。结果分析：对于文档内存在的表格，目前简单的检索链和问答链无法给出精准的回答，分析原因应该是表格数据的检索还是需要使用CSV文件的嵌入以及CSV-chain才能获取精准的答案。将某企业的数据治理方向的一些文档做成私有知识库，基于私有知识库回答数据治理方面的问题。
GPT实战系列-简单聊聊LangChain搭建本地知识库准备
Alex_StarSky的博客
01-14 1885
利用一些文档中的信息来构建答案，回答特定文档中的问题。首先需要把文本转换为文本向量，即自然语言处理常常要用的Embedding技术，Text2Vector。
向量数据库Chroma极简教程
杨建荣的学习笔记
11-24 929
引子 向量数据库其实最早在传统的人工智能和机器学习场景中就有所应用。在大模型兴起后，由于目前大模型的token数限制，很多开发者倾向于将数据量庞大的知识、新闻、文献、语料等先通过嵌入（embedding）算法转变为向量数据，然后存储在Chroma等向量数据库中。当用户在大模型输入问题后，将问题本身也embedding，转化为向量，在向量数据库中查找与之最匹配的相关知识，组成大模型的上下文，将其输入...
大模型从入门到应用——LangChain：模型（Models）-[文本嵌入模型：Embaas、Fake Embeddings、Google Vertex AI PaLM等]
热门推荐
冯·诺依曼
07-26 1万+
本文将介绍如何在LangChain中使用Embedding类。Embedding类是一种与嵌入交互的类。有很多嵌入提供商，如：OpenAI、Cohere、Hugging Face等，这个类旨在为所有这些提供一个标准接口。嵌入创建文本的向量表示会很有用，因为这意味着我们可以在向量空间中表示文本，并执行类似语义搜索这样的操作。
大模型从入门到应用——LangChain：模型（Models）-[文本嵌入模型
2401_84150394的博客
04-29 585
本文将介绍如何在LangChain中使用Embedding类。Embedding类是一种与嵌入交互的类。有很多嵌入提供商，如：OpenAI、Cohere、Hugging Face等，这个类旨在为所有这些提供一个标准接口。嵌入创建文本的向量表示会很有用，因为这意味着我们可以在向量空间中表示文本，并执行类似语义搜索这样的操作。
记录一次完整的大模型实操
xiaomu_347的博客
06-11 124
基于本地部署，脱离千篇一律的openai key的方式，完成基本问答->基于rag模型微调->加入上下文信息->构建智能agent不断迭代升级的模型版本，在此基础上还可以进行适配性调整，完成对基于langchain对llm模型的应用开发。
两小时搭建自己的ChatGLM免硬件
好玩的事情要记录下来~
05-12 1万+
安装依赖解决 ： pip install rouge_chinese nltk jieba datasets。“调整 quantization_bit 来被原始模型的量化等级，不加此选项则为 FP16 精度加载”ModelScope太给力了，本来都打算自己买机器运行了，正好有使用的机会。ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于。ChatGLM 完全傻瓜式的教程，按照官网操作就行了。删除 --quantization_bit 4。按照图片里的选择(选择其他好像不能创建成功)
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

码农三叔

感谢鼓励

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值