【无标题】 RAG 茴香豆

最新推荐文章于 2024-08-08 11:13:39 发布
最新推荐文章于 2024-08-08 11:13:39 发布
阅读量1.5k 收藏 15
点赞数 26
文章标签： json
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_68684025/article/details/139577363
版权

1..RAG 概述

RAG（Retrieval Augmented Generation）技术，通过检索与用户输入相关的信息片段，并结合***外部知识库***来生成更准确、更丰富的回答。解决 LLMs 在处理知识密集型任务时可能遇到的挑战, 如幻觉、知识过时和缺乏透明、可追溯的推理过程等。提供更准确的回答、降低推理成本、实现外部记忆。

RAG 能够让基础模型实现非参数知识更新，无需训练就可以掌握新领域的知识。本次课程选用的[茴香豆](https://github.com/InternLM/HuixiangDou)应用，就应用了 RAG 技术，可以快速、高效的搭建自己的知识领域助手。

1.下载安装茴香豆

安装茴香豆运行所需依赖。

```bash

# 安装 python 依赖

# pip install -r requirements.txt

pip install protobuf==4.25.3 accelerate==0.28.0 aiohttp==3.9.3 auto-gptq==0.7.1 bcembedding==0.1.3 beautifulsoup4==4.8.2 einops==0.7.0 faiss-gpu==1.7.2 langchain==0.1.14 loguru==0.7.2 lxml_html_clean==0.1.0 openai==1.16.1 openpyxl==3.1.2 pandas==2.2.1 pydantic==2.6.4 pymupdf==1.24.1 python-docx==1.1.0 pytoml==0.1.21 readability-lxml==0.8.1 redis==5.0.3 requests==2.31.0 scikit-learn==1.4.1.post1 sentence_transformers==2.2.2 textract==1.6.5 tiktoken==0.6.0 transformers==4.39.3 transformers_stream_generator==0.0.5 unstructured==0.11.2

 2 使用茴香豆搭建 RAG 助手

2.1 修改配置文件

2.2 创建知识库

提取知识库特征，创建向量数据库。数据库向量化的过程应用到了 **LangChain** 的相关模块，默认嵌入和重排序模型调用的网易 **BCE 双语模型**，如果没有在 `config.ini` 文件中指定本地模型路径，茴香豆将自动从 **HuggingFace**  拉取默认模型。

除了语料知识的向量数据库，茴香豆建立接受和拒答两个向量数据库，用来在检索的过程中更加精确的判断提问的相关性，这两个数据库的来源分别是：

- 接受问题列表，希望茴香豆助手回答的示例问题

  - 存储在 `huixiangdou/resource/good_questions.json` 中

- 拒绝问题列表，希望茴香豆助手拒答的示例问题

  - 存储在 `huixiangdou/resource/bad_questions.json` 中

  - 其中多为技术无关的主题或闲聊

  - 如："nihui 是谁", "具体在哪些位置进行修改？", "你是谁？", "1+1"

运行下面的命令，增加茴香豆相关的问题到接受问题示例中：

```bash

cd /root/huixiangdou

mv resource/good_questions.json resource/good_questions_bk.json

echo '[

    "mmpose中怎么调用mmyolo接口",

    "mmpose实现姿态估计后怎么实现行为识别",

    "mmpose执行提取关键点命令不是分为两步吗，一步是目标检测，另一步是关键点提取，我现在目标检测这部分的代码是demo/topdown_demo_with_mmdet.py demo/mmdetection_cfg/faster_rcnn_r50_fpn_coco.py checkpoints/faster_rcnn_r50_fpn_1x_coco_20200130-047c8118.pth   现在我想把这个mmdet的checkpoints换位yolo的，那么应该怎么操作",

    "在mmdetection中，如何同时加载两个数据集，两个dataloader",

    "如何将mmdetection2.28.2的retinanet配置文件改为单尺度的呢？",

    "1.MMPose_Tutorial.ipynb、inferencer_demo.py、image_demo.py、bottomup_demo.py、body3d_pose_lifter_demo.py这几个文件和topdown_demo_with_mmdet.py的区别是什么，\n2.我如果要使用mmdet是不是就只能使用topdown_demo_with_mmdet.py文件，",

    "mmpose 测试 map 一直是 0 怎么办？",

    "如何使用mmpose检测人体关键点？",

    "我使用的数据集是labelme标注的，我想知道mmpose的数据集都是什么样式的，全都是单目标的数据集标注，还是里边也有多目标然后进行标注",

    "如何生成openmmpose的c++推理脚本",

    "mmpose",

    "mmpose的目标检测阶段调用的模型，一定要是demo文件夹下的文件吗，有没有其他路径下的文件",

    "mmpose可以实现行为识别吗，如果要实现的话应该怎么做",

    "我在mmyolo的v0.6.0 (15/8/2023)更新日志里看到了他新增了支持基于 MMPose 的 YOLOX-Pose，我现在是不是只需要在mmpose/project/yolox-Pose内做出一些设置就可以，换掉demo/mmdetection_cfg/faster_rcnn_r50_fpn_coco.py 改用mmyolo来进行目标检测了",

    "mac m1从源码安装的mmpose是x86_64的",

    "想请教一下mmpose有没有提供可以读取外接摄像头，做3d姿态并达到实时的项目呀？",

    "huixiangdou 是什么？",

    "使用科研仪器需要注意什么？",

    "huixiangdou 是什么？",

    "茴香豆 是什么？",

    "茴香豆 能部署到微信吗？",

    "茴香豆 怎么应用到飞书",

    "茴香豆 能部署到微信群吗？",

    "茴香豆 怎么应用到飞书群",

    "huixiangdou 能部署到微信吗？",

    "huixiangdou 怎么应用到飞书",

    "huixiangdou 能部署到微信群吗？",

    "huixiangdou 怎么应用到飞书群",

    "huixiangdou",

    "茴香豆",

    "茴香豆 有哪些应用场景",

    "huixiangdou 有什么用",

    "huixiangdou 的优势有哪些？",

    "茴香豆 已经应用的场景",

    "huixiangdou 已经应用的场景",

    "huixiangdou 怎么安装",

    "茴香豆 怎么安装",

    "茴香豆 最新版本是什么",

    "茴香豆 支持哪些大模型",

    "茴香豆 支持哪些通讯软件",

    "config.ini 文件怎么配置",

    "remote_llm_model 可以填哪些模型?"

]' > /root/huixiangdou/resource/good_questions.json

  ```

再创建一个测试用的问询列表，用来测试拒答流程是否起效：

```bash

cd /root/huixiangdou

echo '[

"huixiangdou 是什么？",

"你好，介绍下自己"

]' > ./test_queries.json

  ```

在确定好语料来源后，运行下面的命令，创建 RAG 检索过程中使用的向量数据库：

```bash

# 创建向量数据库存储目录

cd /root/huixiangdou && mkdir workdir

# 分别向量化知识语料、接受问题和拒绝问题中后保存到 workdir

python3 -m huixiangdou.service.feature_store --sample ./test_queries.json

```

向量数据库的创建需要等待一小段时间，过程约占用 1.6G 显存。

完成后，**Huixiangdou** 相关的新增知识就以向量数据库的形式存储在 `workdir` 文件夹下。

检索过程中，茴香豆会将输入问题与两个列表中的问题在向量空间进行相似性比较，判断该问题是否应该回答，避免群聊过程中的问答泛滥。确定的回答的问题会利用基础模型提取关键词，在知识库中检索 `top K` 相似的 `chunk`，综合问题和检索到的 `chunk` 生成答案。

 2.3 运行茴香豆知识助手

我们已经提取了知识库特征，并创建了对应的向量数据库。现在，让我们来测试一下效果：

命令行运行：

```bash

# 填入问题

sed -i '74s/.*/    queries = ["huixiangdou 是什么？", "茴香豆怎么部署到微信群", "今天天气怎么样？"]/' /root/huixiangdou/huixiangdou/main.py

# 运行茴香豆

cd /root/huixiangdou/

python3 -m huixiangdou.main --standalone

今晚月色真美924
关注
【第3节】“茴香豆“：搭建你的 RAG 智能助理
熊猫小妖的AI世界
04-24 1201
RAG（Retrieval Augmented Generation）技术，通过检索与用户输入相关的信息片段，并结合外部知识库来生成更准确、更丰富的回答。解决 LLMs 在处理知识密集型任务时可能遇到的挑战, 如幻觉、知识过时和缺乏透明、可追溯的推理过程等。提供更准确的回答、降低推理成本、实现外部记忆。LLM会产生误导性的 “幻觉”，依赖的信息可能过时，处理特定知识时效率不高，缺乏专业领域的深度洞察，同时在推理能力上也有所欠缺。
大模型微调和RAG的应用场景
热门推荐
herosunly的博客
06-19 8万+
本文主要介绍了大模型微调和RAG的应用场景，希望对学习大语言模型的同学们有所帮助。 文章目录 1. 前言 2. 大模型微调 vs. RAG
书生浦语第三次课
qq_29983883的博客
04-07 864
书生浦语第一次课。
【LLM大模型】落地RAG系列：RAG入门及RAG面临的挑战和解决方案！！
AAI666666的博客
07-31 1133
2023 年以来，RAG 已成为基于大模型的人工智能系统中应用最为广泛的架构之一。因此对 RAG 应用的性能、检索效率、准确性的研究成为核心问题。
RAG实战宝典：从零开始构建高效的检索增强模型
最新发布
z551646的博客
08-08 924
随着通用大型语言模型如GPT系列和BERT等的迅速崛起，RAG作为自然语言处理技术的新星，凭借其创新的融合检索与生成机制，在处理知识密集型NLP任务方面展现出显著优势，极大地增强了模型在开放域问答、对话系统等场景下的回答质量和相关性。具体而言，RAG通过一个精妙设计的双阶段过程运作：首先，检索模块高效地从庞大的外部知识库中筛选并抓取与查询最为相关的背景信息;随后，这些精准的信息被馈送给生成模块，用以指导和丰富最终答案的生成过程，确保输出既符合语境又高度准确。尽管RAG模型在提升生成内容的质量与可信度上取得了
大模型之RAG-基于向量检索的理论与实战
star_nwe的博客
07-22 1034
之所以介绍一下chromadb，下面我们的实战demo就是基于chromadb来实现。Chroma的目标是帮助用户更加便捷地构建大模型应用，更加轻松的将知识（knowledge）、事实（facts）和技能（skills）等我们现实世界中的文档整合进大模型中。存储文档数据和它们的元数据：store embeddings and their metadata嵌入：embed documents and queries搜索： search embeddings。
一文带你了解大模型的RAG(检索增强生成) | 概念理论介绍+ 代码实操（含源码）
机器学习社区
12-30 2万+
RAG的全称是Retrieval-Augmented Generation，中文翻译为检索增强生成。它是一个为大模型提供外部知识源的概念，这使它们能够生成准确且符合上下文的答案，同时能够减少模型幻觉。本文介绍了 RAG 的概念及其背后的一些理论，本文通过Python、LangChain将其实现，在此过程中使用了 OpenAI的ChatGPT接口（可以自己搭建chatGLM3）、Weaviate矢量数据库（可以自己搭建Milvus ）、OpenAI 嵌入模型实现了 RAG 管道。
探索检索增强生成（RAG）技术的无限可能：Vector+KG RAG、Self-RAG、多向量检索器多模态RAG集成
丨汀、的博客
01-09 3168
探索检索增强生成（RAG）技术的无限可能：Vector+KG RAG、Self-RAG、多向量检索器多模态RAG集成
RAG 提示词工程最佳实践
程序员光剑
04-06 826
虽然目前网络上关于提示工程的相关资料已经多如牛毛，然而 RAG (检索增强生成) 任务中提示工程如何进行的资料相对而言却较少。不少朋友之前也热烈的讨论过 RAG 场景下提示词的运用，因此 Zen 禅与计算机程序设计艺术 特别推出 RAG 任务下的提示词实践经验系列分享。RAG 是检索增强生成（Retrieval Augmented Generation）的简称，是当前最火热的企业级LLM应用方案。
LangChain实战：使用 RAG 工作流程进行高效信息检索 Efficient Information Retrieval with RAG Workflow
程序员光剑
10-22 1918
检索增强生成 (RAG) 是一种与预训练的大型语言模型 (LLM) 和您自己的数据配合使用来生成响应的模式。seq2seq它结合了预训练密集检索和序列到序列模型的强大功能。RAG 模型检索文档，将它们传递给 seq2seq 模型，然后边缘化以生成输出。article在我向您介绍 RAG 理论部分的文章的继续部分，我在这里向您介绍 RAG 在代码中的实现。让我们开始使用 Langchain 和 Hugging Face 来实现 RAG！
RAG代码实操之斗气强者萧炎
weixin_61494821的博客
01-13 1336
RAG代码实操之斗气强者萧炎
RAG 入门指南：从零开始构建一个 RAG 系统
mama19971023的博客
08-05 1138
在开始之前，我还是打算再次简要的介绍一下 RAG。在 Meta 的官方 Blog 上有这样一段话：这段话主要讲述了一个新的模型架构，也就是RAG (检索增强生成)的重要性和优势。可以概括为以下几点：1. 构建一个能够进行研究和上下文分析的模型虽然更具挑战性，但对未来的技术进步非常关键；2. 通过在知识密集的下游任务上微调，RAG 可以实现最先进的结果，比现有的最大的预训练序列到序列语言模型还要好；3. 与传统的预训练模型不同，RAG 的内部知识可以轻松地动态更改或补充。
6行代码入门RAG开发
m0_59164520的博客
06-12 897
检索增强生成（RAG）是指对大型语言模型输出进行优化，使其能够在生成响应之前引用训练数据来源之外的权威知识库。大型语言模型（LLM）用海量数据进行训练，使用数十亿个参数为回答问题、翻译语言和完成句子等任务生成原始输出。在 LLM 本就强大的功能基础上，RAG 将其扩展为能访问特定领域或组织的内部知识库，所有这些都无需重新训练模型。这是一种经济高效地改进 LLM 输出的方法，让它在各种情境下都能保持相关性、准确性和实用性。更多关于RAG的介绍可以看这篇文章： 6行代码入门RAG输出效果可还满意？这里使用的是
大模型RAG实现智能知识库，仅几十行代码(openai接口+faiss)
qq_32384985的博客
05-27 529
检索增强生成 (RAG) 是一种使用来自私有或专有数据源的信息来辅助文本生成的技术。它将检索模型（设计用于搜索大型数据集或知识库）和生成模型（例如大型语言模型 (LLM)，此类模型会使用检索到的信息生成可供阅读的文本回复）结合在一起。RAG的主要使用场景，就是基于自有知识库的大模型。本文通过python来实现最简答的一个rag搜索。
【Python大语言模型系列】不到两百行代码教你实现一个完整的RAG系统（案例+源码）
数据杂坛
07-19 908
不到两百行代码教你实现一个完整的RAG系统（案例+源码）
OPENAI中RAG实现原理以及示例代码用PYTHON来实现
dzend的专栏
05-05 1153
在当今人工智能领域，自然语言处理（NLP）是一个非常重要的研究方向。近年来，OPENAI发布了许多创新的NLP模型，其中之一就是RAG（Retrieval-Augmented Generation）模型。RAG模型结合了检索和生成两种方法，可以用于生成与给定问题相关的高质量文本。本文将介绍RAG模型的实现原理，并提供使用Python编写的示例代码。
RAG一文读懂！概念、场景、优势、对比微调与项目代码示例
lihui49的博客
03-14 1730
定义一个自定义的嵌入函数，用于将文本内容转换为嵌入向量。其中使用 ERNIE Bot 库来创建文本的嵌入，并且通过 Chromadb 库来管理这些嵌入向量。
RAG全解析和LangChain代码实现
csdn1561168266的博客
03-06 3134
大家好，自从人们意识到可以用自有数据为大型语言模型（LLM）增效之后，就开始讨论如何最有效地弥合 LLM 的通用知识与专有数据之间的差距。围绕着微调还是检索增强生成（RAG）哪个更适合这一问题，人们展开了激烈的争论。本文重点介绍 RAG 的概念，首先介绍其理论，然后会继续展示如何使用LangChain进行编排、OpenAI 语言模型和 Weaviate 向量数据库来实现一个简单的 RAG 流水线。
“茴香豆“:零代码搭建你的 RAG 智能助理
wusuoweijujiayou的博客
04-14 685
RAG（Retrieval Augmented Generation）技术，通过检索与用户输入相关的信息片段，并结合来生成更准确、更丰富的回答。解决 LLMs 在处理知识密集型任务时可能遇到的挑战, 如幻觉、知识过时和缺乏透明、可追溯的推理过程等。提供更准确的回答、降低推理成本、实现外部记忆。1.开发环境搭建：1.2下载安装茴香豆，依赖，GIT仓库1.3按照依赖1.4下载基础文件复制茴香豆所需模型文件，为了减少下载和避免登录问题，所有作业和教程涉及的模型都已经存放在开发机共享文件中。本教程选用。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值