RAGFlow

已于 2024-08-29 14:29:45 修改
阅读量3.1k 收藏 28
点赞数 23
分类专栏： LLM & AIGC 文章标签： RAGFlow rag flow docker
于 2024-04-30 23:15:00 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/lovechris00/article/details/138290498
版权

在这里插入图片描述

文章目录

一、关于 RAGFlow💡

RAGFlow 是一款基于深度文档理解构建的开源 RAG（Retrieval-Augmented Generation）引擎。RAGFlow 可以为各种规模的企业及个人提供一套精简的 RAG 工作流程，结合大语言模型（LLM）针对用户各类不同的复杂格式数据提供可靠的问答以及有理有据的引用。

主要功能🌟

  • **“Quality in, quality out”**🍭
    • 基于深度文档理解，能够从各类复杂格式的非结构化数据中提取真知灼见。
    • 真正在无限上下文（token）的场景下快速完成大海捞针测试。
  • 基于模板的文本切片 🍱
    • 不仅仅是智能，更重要的是可控可解释。
    • 多种文本模板可供选择
  • 有理有据、最大程度降低幻觉（hallucination） 🌱
    • 文本切片过程可视化，支持手动调整。
    • 有理有据：答案提供关键引用的快照并支持追根溯源。
  • 兼容各类异构数据源 🍔
    • 支持丰富的文件类型，包括 Word 文档、PPT、excel 表格、txt 文件、图片、PDF、影印件、复印件、结构化数据, 网页等。
  • 全程无忧、自动化的 RAG 工作流 🛀
    • 全面优化的 RAG 工作流可以支持从个人应用乃至超大型企业的各类生态系统。
    • 大语言模型 LLM 以及向量模型均支持配置。
    • 基于多路召回、融合重排序。
    • 提供易用的 API，可以轻松集成到各类企业系统。

系统架构 🔎

在这里插入图片描述

二、快速开始🎬

1、前提条件📝

  • CPU >= 4 核
  • RAM >= 16 GB
  • Disk >= 50 GB
  • Docker >= 24.0.0 & Docker Compose >= v2.26.1

2、启动服务器🚀

1、确保 vm.max_map_count 不小于 262144 【更多】：

如需确认 vm.max_map_count 的大小：

sysctl vm.max_map_count

如果 vm.max_map_count 的值小于 262144，可以进行重置：

# 这里我们设为 262144:
sudo sysctl -w vm.max_map_count=262144

你的改动会在下次系统重启时被重置。如果希望做永久改动，还需要在 /etc/sysctl.conf 文件里把 vm.max_map_count 的值再相应更新一遍：

vm.max_map_count=262144

2、克隆仓库：

git clone https://github.com/infiniflow/ragflow.git

3、进入 docker 文件夹，利用提前编译好的 Docker 镜像启动服务器：

cd ragflow/docker
chmod +x ./entrypoint.sh
docker compose -f docker-compose-CN.yml up -d

核心镜像文件大约 15 GB，可能需要一定时间拉取。请耐心等待。

4、服务器启动成功后再次确认服务器状态：

docker logs -f ragflow-server

出现以下界面提示说明服务器启动成功：

       ____                 ______ __
      / __ \ ____ _ ____ _ / ____// /____  _      __
     / /_/ // __ `// __ `// /_   / // __ \| | /| / /
    / _, _// /_/ // /_/ // __/  / // /_/ /| |/ |/ /
   /_/ |_| \__,_/ \__, //_/    /_/ \____/ |__/|__/
                 /____/
   
    * Running on all addresses (0.0.0.0)
    * Running on http://127.0.0.1:9380
    * Running on http://x.x.x.x:9380
    INFO:werkzeug:Press CTRL+C to quit

如果您跳过这一步系统确认步骤就登录 RAGFlow，你的浏览器有可能会提示 network anomaly 或 网络异常，因为 RAGFlow 可能并未完全启动成功。

5、在你的浏览器中输入你的服务器对应的 IP 地址并登录 RAGFlow。

上面这个例子中，您只需输入 http://IP_OF_YOUR_MACHINE 即可：未改动过配置则无需输入端口（默认的 HTTP 服务端口 80）。

  1. 在 service_conf.yaml 文件的 user_default_llm 栏配置 LLM factory，并在 API_KEY 栏填写和你选择的大模型相对应的 API key。

    详见 ./docs/llm_api_key_setup.md。

    好戏开始，接着奏乐接着舞！

三、系统配置🔧

系统配置涉及以下三份文件：

  • .env：存放一些基本的系统环境变量，比如 SVR_HTTP_PORT、MYSQL_PASSWORD、MINIO_PASSWORD 等。
  • service_conf.yaml：配置各类后台服务。
  • docker-compose-CN.yml: 系统依赖该文件完成启动。

请务必确保 .env 文件中的变量设置与 service_conf.yaml 文件中的配置保持一致！

./docker/README 文件提供了环境变量设置和服务配置的详细信息。请一定要确保 ./docker/README 文件当中列出来的环境变量的值与 service_conf.yaml 文件当中的系统配置保持一致。

如需更新默认的 HTTP 服务端口(80), 可以在 docker-compose-CN.yml 文件中将配置 80:80 改为 <YOUR_SERVING_PORT>:80。

所有系统配置都需要通过系统重启生效：

docker compose -f docker-compose-CN.yml up -d

四、源码编译、安装 Docker 镜像🛠️

如需从源码安装 Docker 镜像：

$ git clone https://github.com/infiniflow/ragflow.git
$ cd ragflow/
$ docker build -t infiniflow/ragflow:v0.4.0 .
$ cd ragflow/docker
$ chmod +x ./entrypoint.sh
$ docker compose up -d

五、 源码启动服务🛠️

如需从源码启动服务，请参考以下步骤：

1、克隆仓库

git clone https://github.com/infiniflow/ragflow.git
cd ragflow/

2、创建虚拟环境（确保已安装 Anaconda 或 Miniconda）

conda create -n ragflow python=3.11.0
conda activate ragflow
pip install -r requirements.txt

如果 cuda > 12.0，需额外执行以下命令：

pip uninstall -y onnxruntime-gpu
pip install onnxruntime-gpu --extra-index-url https://aiinfra.pkgs.visualstudio.com/PublicPackages/_packaging/onnxruntime-cuda-12/pypi/simple/

3、拷贝入口脚本并配置环境变量

cp docker/entrypoint.sh .
vi entrypoint.sh

使用以下命令获取python路径及ragflow项目路径：

which python
pwd

将上述 which python 的输出作为 PY 的值，将 pwd 的输出作为 PYTHONPATH 的值。

LD_LIBRARY_PATH 如果环境已经配置好，可以注释掉。

# 此处配置需要按照实际情况调整，两个 export 为新增配置
PY=${PY}
export PYTHONPATH=${PYTHONPATH}
# 可选：添加 Hugging Face 镜像
export HF_ENDPOINT=https://hf-mirror.com

4、启动基础服务

cd docker
docker compose -f docker-compose-base.yml up -d

5、检查配置文件 确保docker/.env中的配置与conf/service_conf.yaml中配置一致， service_conf.yaml中相关服务的IP地址与端口应该改成本机IP地址及容器映射出来的端口。

6、启动服务

chmod +x ./entrypoint.sh
bash ./entrypoint.sh

7、启动WebUI服务

cd web
npm install --registry=https://registry.npmmirror.com --force
vim .umirc.ts
# 修改proxy.target为http://127.0.0.1:9380
npm run dev

8、部署WebUI服务

cd web
npm install --registry=https://registry.npmmirror.com --force
umi build
mkdir -p /ragflow/web
cp -r dist /ragflow/web
apt install nginx -y
cp ../docker/nginx/proxy.conf /etc/nginx
cp ../docker/nginx/nginx.conf /etc/nginx
cp ../docker/nginx/ragflow.conf /etc/nginx/conf.d
systemctl start nginx

2024-04-28（日）

RAGflow：开源AI框架的创新与应用
chinaai777的博客
08-01 1102
首先，对于不熟悉RAG的读者，简单介绍一下。RAG，即检索增强生成，是一种结合了信息检索与大型语言模型生成能力的技术。它能够提供准确且有依据的回答，通过处理数据生成最相关的信息。这种技术在答案生成方面比单纯依赖大型语言模型的效果更佳，因此被广泛应用于多个领域。RAGflow作为一个先进的开源RAG引擎，通过其强大的功能和灵活的配置，不仅在技术上非常前沿，而且在实际应用中也展现出了巨大的潜力。无论是企业用户还是个人开发者，都可以利用RAGflow提升文档处理和数据分析的效率。
RAGFlow 实现
厉力文武
05-20 2027
它可以为规模企业提供简化的 RAG（检索增强生成） 工作流程，结合大型语言模型提供真实的对话功能，重点是它能够支持私有化的知识库，弥补大语言模型在特定场景中相关知识的不足，很好的解决了个性化应用的纵深问题。这篇文档描述的是知识库的构建、管理与应用。管理层面的输入是知识库文档，返回的是文档的管理状态，结合前端页面，用户可以方便的管理自己的知识库。最后说明一下，知识库检索返回的是知识库文档分片集合，后续的工作流可以对分片集合格式化，结合用户会话列表生成提示和上下文，提交给大语言模型生成文本。
RAG Flow搭建AI医疗助手，附带完整教程+源码
m0_63171455的博客
12-03 4766
对于医疗问答AI回答胡说八道，RAGFlow是一个效果非常好的医疗问答AI助手方案，体验完胜于目前市面上其他医疗问答AI和前沿的医疗领域大模型。
DeepSeek+Ragflow搭建个人知识库
m0_63171455的博客
02-14 5722
利用Deepseek+Ragflow搭建的知识库过程还是比较简单，正常跟着流程走不容易出错。如果投喂的数据经过整合处理，那么反馈的结果还是有一定的实际意义。当前个人能部署的模型参数太少，尚处于体验阶段。相信不久的将来，大模型不断发展，个人能部署性能更强大的模型。
一文读懂RAGFlow：从 0 到 1教你搭建RAG知识库
热门推荐
Z987421的博客
02-27 1万+
RAGFlow是一种融合了数据检索与生成式模型的新型系统架构，其核心思想在于将大规模检索系统与先进的生成式模型（如Transformer、GPT系列）相结合，从而在回答查询时既能利用海量数据的知识库，又能生成符合上下文语义的自然语言回复。该系统主要包含两个关键模块：数据检索模块和生成模块。数据检索模块负责在海量数据中快速定位相关信息，而生成模块则基于检索结果生成高质量的回答或文本内容。
快速搭建专业AI知识库的开源工具:Ragflow
m0_59163425的博客
02-04 2002
在大模型应用的蓬勃发展中，检索增强生成（Retrieval-Augmented Generation，RAG）技术占据了举足轻重的地位。它就像是大模型的智慧助手，通过从外部知识库中检索相关信息，并将其融入到大模型的回答生成过程中，有效提升了大模型回答的准确性、可靠性和时效性，在问答系统、智能客服、文档摘要等多个领域都发挥着关键作用。上图是一个常见的AI应用的数据流向图，文档分块之后向量化存储到向量数据库，然后输入文本内容，形成prompt，从向量数据库检索相关的知识背景，发送给LLM之后，返回结果。
7.1k Star！RAGFlow：最新开源OCR+深度文档理解的RAG引擎、大海捞针测试、降低幻觉、服务化API集成进业务！
lythinking的博客
05-11 6479
RAG，也就是检索增强生成，听上去可能有点科技感，但其实这个概念相当直观。它基本上就是通过一个巧妙的方法来让大型语言模型（LLM）生成更精准、更有用的回答。这个过程开始于一种特殊的数据库，我们可以称之为“垂直领域数据库”。当你向LLM提出一个问题时，RAG不是直接回答，而是先到这个数据库里去搜索与你的问题最相关的信息。这就好比你问了一个复杂的问题，RAG先跑去图书馆查资料。接下来的步骤是关键：RAG把这些检索到的信息整合成一个精细的提示模板。然后，这个模板和你的原始问题一起被送到LLM。
RAG+Agent人工智能平台：RAGflow实现GraphRA知识库问答，打造极致多模态问答与AI编排流体验
python1234_的博客
09-21 9473
环节要求CPU >= 4 核如果你并没有在本机安装 Docker（Windows、Mac，或者 Linux）, 可以参考文档 Install Docker Engine 自行安装。是Linux内核中的一个重要参数，它定义了一个进程可以拥有的最大内存映射区域数。内存映射区域通常指的是内存映射文件、匿名内存映射等。性能优化：通过增加vm.max_map_count的值，可以允许应用程序创建更多的内存映射区域，从而提高性能和效率。特别是对于需要频繁访问大量文件或数据的应用程序，这种优化效果尤为明显。
RAGFlow 开源项目安装与使用文档
gitblog_00472的博客
08-08 5120
RAGFlow 开源项目安装与使用文档 ragflowRAGFlow是一个基于深度文档理解的开源RAG（检索增强生成）引擎。项目地址:https://gitcode.com/gh_mirrors/ra/ragflow 一、项目介绍 RAGFlow是一款基于深度文档理解构建的开源RAG（Retrieval-Augmented Generation）引擎。它旨在为企业和个人提供一个简化的工作流程来处...
ragflow-0.16.0
02-13
RagFlow-0.16.0版本是一个面向人工智能领域，尤其是自然语言处理和信息检索技术的软件。该版本的软件可以被视作一个信息流处理的工具，能够处理各种语言和数据流，并从中提取有价值的信息。在技术发展日新月异的今天...
ragflow-nightly
02-13
标题“ragflow-nightly”表明这是一份与AI RagFlow DeepSeek相关的夜间发布文件，文件类型可能是一个软件更新或者是实验性的构建。这个标题并没有提供太多的信息，但是从“releases at 2025-02-12”可以看出这个文件...
ragflow-main
05-24
https://github.com/infiniflow/ragflow/ code文件
ragflow.zip代码包
02-26
ragflow.zip代码包作为一个被提及的压缩文件，虽然具体细节没有给出，但根据名称"ragflow"我们可以推测它可能与计算机编程和软件开发相关。"ragflow"一词可能是一个项目的名称或者是一个特定的代码库标识。在软件...
deepseek之ragflow镜像文件-win10
最新发布
03-03
RagFlow是一个在计算机视觉领域中使用的数据集，该数据集通常用于训练和测试计算机视觉算法，特别是在深度学习的上下文中。它包含了丰富的标注信息，以便于研究者和开发者能够对各种视觉任务进行实验和研究。由于...
Ragflow：新一代自然语言处理工具的革命
gitblog_00002的博客
04-25 1479
Ragflow：新一代自然语言处理工具的革命 ragflowRAGFlow是一个基于深度文档理解的开源RAG（检索增强生成）引擎。项目地址:https://gitcode.com/gh_mirrors/ra/ragflow 在人工智能领域，自然语言处理（NLP）已经取得了显著的进步。今天，我们要向大家推荐一个创新的NLP工具——Ragflow，由InfiniFlow团队开发的先进模型，它旨在简化...
RAGFlow：引领OCR与文档解析技术革新的下一代RAG引擎
xzq_qzx_的博客
04-28 2662
在人工智能的蓬勃发展浪潮中，检索增强生成（RAG）技术凭借其独特优势，迅速成为研究和应用的焦点。RAG技术巧妙地将大型语言模型（LLMs）的卓越生成能力与高效的信息检索系统相结合，为用户带来前所未有的交互体验。然而，随着技术的深入应用，一系列挑战也逐渐浮出水面。现有的RAG系统在处理海量数据时，常常面临效率和准确性的双重考验。尽管LLMs在生成流畅文本方面表现出色，但在面对复杂、非结构化的数据时，它们往往难以精准捕捉和提取关键信息。
RAGFlow 详解
AngelCryToo的专栏
09-25 3766
RAGFlow 提供了一种强大的方式，将信息检索与文本生成结合起来，适用于需要动态内容生成的各种场景。虽然它在使用上可能有一定的学习曲线，但其灵活性和能力使其在现代自然语言处理任务中占据了重要地位。相比之下，其他框架如 Discord、Gradio、LangChain 等则各具特点，适用于不同的使用场景和需求。在选择框架时，可以根据具体的项目需求和资源情况来进行权衡。
RAGFlow 学习笔记
engchina的专栏
06-08 7921
RAGFlow 学习笔记
小学生也能听得懂的大模型 - Transformer 1
2401_85325557的博客
07-29 1247
参考 [小学生也能听得懂的大模型 Transformer 1]
......\ragflow-0.15.1\docker\
02-28
### ragflow-0.15.1 Docker 配置详解 对于版本 v0.15.1 的 RAGFlow，默认情况下不包含嵌入模型，因此需要特别注意配置文件中的设置以确保正常运行[^1]。 #### 修改 `docker.env` 文件 为了使 RAGFlow 正常工作，在 `ragflow/docker.env` 文件中应按照特定方式调整参数。具体来说： - **EMBEDDING_MODEL_PATH**: 设置此路径指向所需的预训练模型位置。 ```bash EMBEDDING_MODEL_PATH=/path/to/your/embedding/model ``` 这一步骤至关重要，因为默认镜像 (v0.15.1-slim) 并未自带这些必要的组件。 #### 使用 Docker Compose 启动基础服务 启动整个系统的其他依赖项如 MinIO、Elasticsearch、Redis 和 MySQL 可通过 Docker Compose 实现。确保拥有正确的 `docker-compose.yml` 文件并执行命令来初始化所需的服务环境[^2]: ```bash docker-compose up -d base ``` 上述指令会以前台模式异步启动所有标记为 'base' 的容器实例，从而构建起稳定的应用程序支撑平台。 #### 安装 Docker CE 如果本地环境中尚未安装 Docker，则需先完成这一前置条件。可以通过包管理器 apt 来获取官方发布的最新版软件包，并依照提示逐步操作直至成功部署完毕[^3]： ```bash sudo apt update && sudo apt install docker-ce docker-ce-cli containerd.io ``` 以上步骤能够帮助解决大多数关于 RagFlow 项目与 Docker 相关的基础配置问题，同时也提供了针对该框架定制化需求下的解决方案建议。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

编程乐园

请我喝杯伯爵奶茶~！

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值