使用Ollama + RAGFlow在Windows本地部署

最新推荐文章于 2025-04-20 18:41:27 发布
最新推荐文章于 2025-04-20 18:41:27 发布
阅读量1.1w 收藏 70
点赞数 32
文章标签： windows
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_46365672/article/details/142868100
版权

使用Ollama + RAGFlow在Windows本地部署

1、Ollama的下载运行

1、Ollama环境配置

Ollama默认模型文件是存到C盘的，这一步是为了后续Ollama的模型安装可以放在我们自定义的路径里，不需要的可以跳过这一步骤。
（1）打开编辑系统环境变量（可以直接搜索找到，也可以“此电脑”右键属性——高级系统设置）
在这里插入图片描述
（2）点击“环境变量”，在下方的“系统变量”点击新建，新建如图系统变量后一路点总共三次确定结束（变量值可以自己选文件夹，变量名务必保持一致）
在这里插入图片描述

2、Ollama模型的下载安装

1、进入Ollama官网：https://ollama.com/，点击Download选择Windows下载，下载完成后直接双击运行安装就可以完成Ollama的安装
在这里插入图片描述

2、Models的下载安装
（1）点击Ollama官网首页右上角的“Models”
在这里插入图片描述
（2）进入如下Ollama模型库，选择自己要下载的模型（这里本人下载的是llama3.2：latest）
在这里插入图片描述
（3）复制运行模型的指令
在这里插入图片描述
（4）win+R输入cmd打开终端，运行刚刚复制的指令，Ollama开始下载模型（如果模型已下载就会直接运行模型），最终下载（运行）完成后即可开始问答，Ollama的下载安装就此完成。
在这里插入图片描述

2、RAGFlow的docker容器部署

1、docker desktop的下载安装

（1）进入docker官网：https://www.docker.com/，下载适合自己电脑的版本
在这里插入图片描述
（2）下载完成后双击installer完成安装
但是本人直接安装完的docker一直出现Engine stopped的提示，无法正常运行。
所以建议在运行docker安装前先检查自己电脑的hyper-v有没有正常打开，同时检查自己的WSL有没有升级到WSL2，确保Hyper-v打开和WSL升级到WSL2再运行docker installer，一般这样就能正常打开docker desktop了。
I、Hyper-v的打开
本人当时按这个教程（https://www.xitongzhijia.net/xtjc/20220102/237013.html）检查发现电脑根本没有Hyper-v
所以又先绕路安装了一下Hyper-v，参考博客：https://www.cnblogs.com/ZaraNet/p/11918807.html
II、WSL的升级
用管理员身份运行打开Power Shell，执行： wsl --update
系统就会开始自动升级到WSL2，升级完后可以执行： wsl -v 检查结果
在这里插入图片描述
Hyper-v和WSl2都正常的情况下运行刚刚下载的docker installer，“同意协议”后可以直接点击“continue without signing in”进入docker（当然也可以注册再登录，不过注册界面我总刷不出来），docker左下角显示“Engine running”代表正常
在这里插入图片描述

2、RAGFlow的拉取运行

git克隆仓库完成拉取

git clone https://github.com/infiniflow/ragflow.git

运行

cd ragflow/docker
docker compose up -d

完成后运行检查服务器状态

docker logs -f ragflow-server

有类似下图输出并且无报错即可
在这里插入图片描述
此时docker中也可以看到容器正常运行起来了

在这里插入图片描述
在浏览器网址栏输入localhost/knowledge即可访问RAGFlow开始使用

Win10系统Docker+DeepSeek+ragflow搭建本地知识库
yilvyangguang520的博客
02-18 1784
Win10系统Docker+DeepSeek+ragflow搭建本地知识库
知识库搭建实战二十、Ollama+RagFlow 部署本地知识库
xiaoqi270620903的专栏
09-09 8720
通过以上步骤，你已经成功在 Windows 系统上通过 Docker 部署了一个本地化的大模型知识库，结合 RagFlow 和 Ollama，安装了通义千问2 7B 模型和中文 Embedding 模型，构建了一个支持中文问答的系统。这种设置适用于企业内部知识管理、自动化客服、智能问答等场景。
WINDOWS安装RAGFLOW完整流程
wuhoufatian的博客
09-21 5333
2：上面的命令大概需要2个小时完成，docker的命令大概有11G左右，命令执行完成后RAGFLOW就启动成功了。关键点2：硬盘容量一定不能小于50G，否则RAGFLOW的ES组件不能正常工作，最好定义为100G以上。关键点3：帖子中第5点切ROOT不是必选操作，如果不切ROOT，输入命令的时候前面加sudo。1：上面的命令的第三步RAGFLOW_VERSION，可以不修改，默认会使用dev版本。虚拟机开机完成后，开始安装Docker，首先需要修改ubuntu的docker源。即可安装docker。
【附ollama安装包】Ollama你会玩了吗？保姆级教程来了~
瓦罗兰特顶级C位的博客
02-10 3989
Ollama是一个开源框架，专门设计用于在本地运行大型语言模型。它的主要特点是将模型权重、配置和数据捆绑到一个包中，从而优化了设置和配置细节，包括GPU使用情况，简化了在本地运行大型模型的过程。
亲测有效！Win10环境下RAGFlow全栈配置教程（附避坑指南）
yxkong的专栏
03-17 3431
做环境管理，单一的python还好一些，我之前安装的是3.9（比较早了）。而有些项目需要3.10，有的需要3.11，有的需要3.12，要么升级，要么安装多套环境。不想用uv，使用conda，建议让kimi写个脚本，把uv.lock里的包都洗出来，洗成。如果你没有修改过docker部署的端口，可以直接使用，如果修改了，需要对应的修改。然而我折腾了一会，安装不上。前端环境需要npm，或者pnpm，我之前一直有对应的环境，我就不折腾了。如果大家自己折腾，建议用uv，直接导入官方提供的，缺有，但是不多。
【Windows纯离线环境】下部署DeepSeek大模型+本地知识库实战指南——Ollama+RAGflow全流程解析
KAi_2009的博客
02-16 4355
在大语言模型的发展如火如荼的今天，DeepSeek的开源发布使得个人，或者对于数据安全具有核心诉求的应用场景可以实现纯离线部署的方案，并可以通过与开源软件RAGflow的组合实现大模型+本地知识库的构建，并且可以支持进一步的私有化定制开发。
Windows安装docker并部署RAGFlow
weixin_43807749的博客
03-26 1134
在之前的博客中，笔者尝试利用ollama和anythingLLM建立了本地知识库，并在局域网内，提供接口给其他人使用。在本文中，笔者尝试利用另外一个工具RAGFlow，来搭建本地知识库。在大型语言模型（LLM）中，Embedding是指将离散的文本数据（如单词、短语或句子）转换为连续的数值向量的过程。​这些向量捕捉了文本的语义和语法特征。具体而言，Embedding将高维度的离散数据映射到低维度的连续向量空间中。​在这个空间中，语义相似的文本片段会被映射到彼此接近的位置。
Windows 下本地 Docker RAGFlow 部署指南
LACERBA
01-23 8264
Windows 下本地 Docker RAGFlow 部署指南
Win 11本地搭建部署RagFlow
qq_33290485的博客
07-27 5585
基于Docker部署和Linux源码启动均可参考地址：https://github.com/infiniflow/ragflow/blob/main/README_zh.md。启动ragflow：运行api里面的ragflow_server.py，浏览器输入http://IP:9222。Github源码地址：https://github.com/infiniflow/ragflow。按照ragflow目录下docker里面的nginx配置本地nginx。
在Windows环境下，不使用Docker，本地部署和启动开源项目Ragflow的源代码
qq_26979493的博客
01-20 9710
在当前AI领域中，基于检索增强生成（RAG）的应用备受关注，而开源项目RAGFlow因其灵活性和功能性成为了一个热门选择。不过，由于其快速的版本迭代，可能会存在一些Bug，并且在实际项目落地时通常需要根据具体需求对源码进行定制化修改。遗憾的是，RAGFlow官方尚未提供针对Windows开发环境的详细文档。因此，在本地部署过程中，我整理了一份详细的记录，希望能够为有类似需求的开发者提供参考。
本地部署 RAGFlow
engchina的专栏
06-08 7260
本地部署 RAGFlow
Windows下（win10）本地部署Deepseek + Docker + RAGFlow
u012937840的博客
02-26 3981
环境变量设置完成之后，千万记得要重启电脑。不然安装Deepseek蒸馏模型后，使用ollama list命令获取不到信息。首先确认自己的电脑配置，有没有GPU，内存大小等。这里特别注意一下，如果下载失败 提示下面报错信息，应该是外网权限问题。如果不支持 可以通过 wsl --update 命令进行升级安装。wsl --version等命令可正常返回，说明已支持。4、安装模型成功后 会出现对话框，表示模型安装成功。4）开始安装Docker，按照默认配置安装即可。打开cmd工具，在命令行输入官网下载指令即可。
RAG 实践- Ollama+RagFlow 部署本地知识库
AGI_GGbond的博客
10-28 3129
本文我们介绍另一种实现方式：利用 Ollama+RagFlow 来实现，其中 Ollama 中使用的模型仍然是Qwen2
deepseek使用和本地部署ollama+ragflow知识库（2）
Hollybaicai的博客
02-12 1773
没看上一篇的可以先看一下。用ollama部署deepseek。是一个开源的平台，旨在简化应用程序的开发、交付和部署流程。它使用容器技术，将应用程序及其所有依赖项封装在一个轻量级、可移植的容器中。以下是 Docker 的一些关键概念和特点：进入官网下载就行PS 最重要的是你的C盘大小要大于50GB最好，因为docker下载镜像是默认C盘。docker top 没有吧安装位置放出来 ，如果你需要改docker的安装位置，可以使用下面代码，进入到docker安装包的终端下输入就行 ，可以修改安装路径。
windows上部署本地知识库（RAG）ollama + docker + ragflow方案
最新发布
weixin_43869605的博客
04-20 1072
在.wslconfig文件配置如下，解决运行内存不够的场景，ragflow最低要求16G（如果没有.wslconfig文件，可以win+r,输入%UserProfile%之后新建）有gpu的可以执行此命令：docker compose -f docker-compose-gpu.yml up -d。没有gpu的可以执行此命令：docker compose -f docker-compose.yml up -d。进入ragflow的docker目录：D:\自己的位置\ragflow\docker。
DeepSeek接入个人知识库，保姆级教程来了！
EnjoyEDU的博客
02-27 1539
RAGFlow 是一款基于深度文档理解的开源检索增强生成（Retrieval-Augmented Generation，RAG）引擎，旨在通过结合信息检索和生成式 AI 的优势，解决现有技术在数据处理和生成答案方面的挑战。
RAGFlow在windows环境下的部署，并配置​Deepseek模型​（亲测）
ocean00008899的博客
03-13 1337
RAG（，检索增强生成）是一种结合了信息检索（Retrieval）和自然语言生成（Generation）的技术框架。它通过从外部知识库中检索相关信息，并将其作为上下文输入到（LLM）中，从而增强模型生成回答的准确性、相关性和可解释性。RAGFlow是一个基于深度文档理解的开源RAG（检索增强生成）引擎。当与LLM集成时，它能够提供真实的问答能力，并得到来自各种复杂格式数据的充分引用的支持。
windows DeepSeek RAGFlow构建本地知识库系统
m0_71071763的博客
03-03 1549
windows DeepSeek RAGFlow构建本地知识库系统
win10系统部署RAGFLOW+Ollama教程
weixin_47782004的博客
11-30 3159
本篇主要基于linux服务器部署ragflow+ollama，其他操作系统稍有差异但是大体一样。
如何在本地计算机上部署 DeepSeek 并创建一个可供多台设备访问的公司制度知识库？可以使用Ollama和ragflow吗
02-23
### 部署 DeepSeek 创建多设备访问的公司制度知识库 为了实现这一目标，需考虑几个方面来确保系统的高效性和易用性。对于本地计算机上的部署工作，特别是涉及到像 Ollama 和 ragflow 这样的工具时，有特定的操作流程。 #### 准备环境与安装必要组件 首先，在Windows环境中准备Ollama的部署[^1]。这一步骤为后续操作奠定了基础架构层面的支持，使得其他软件和服务可以在其之上顺利运行。 接着，针对ragflow的应用部分，应前往GitHub下载ragflow项目的源代码ZIP文件并将其解压缩到指定路径`C:\xmx\dseek\`下[^2]。此过程引入了一个重要的数据处理框架，有助于增强系统功能。 #### 构建基于1.5B参数模型的知识库服务 考虑到性能因素以及实际应用场景的需求，选用具有约15亿参数规模的语言模型作为核心引擎是一个合理的选择[^3]。这类大小适中的预训练模型既能在普通硬件条件下良好运作，又足以胜任较为复杂的自然语言理解和生成任务。 在此基础上建立起来的服务端程序将负责接收来自不同终端用户的查询请求，并通过调用上述提到的大规模语言模型API接口返回精准的回答内容；与此同时，借助于前端Web开发技术和移动应用程序设计思路，则可以让员工们无论身处何地都能方便快捷地获取所需的企业规章制度信息。 ```bash # 假设已经完成ragflow项目克隆和依赖项安装 cd C:\xmx\dseek\ python app.py # 启动ragflow服务器实例 ``` ```json { "ollama_endpoint": "http://localhost:8000", "model_name": "deepseek-1.5b" } ``` 以上配置片段展示了如何设置连接至本地运行的Ollama API网关地址及所使用的具体模型名称。当一切就绪之后，整个解决方案便具备了跨平台特性——无论是桌面浏览器还是智能手机和平板电脑均能正常接入该企业内部知识管理系统。
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值