私有化部署网易云-qanything教程

最新推荐文章于 2025-03-31 09:40:26 发布
最新推荐文章于 2025-03-31 09:40:26 发布
阅读量3.3k 收藏 20
点赞数 20
文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_48159647/article/details/137687633
版权
本文详细描述了如何在Windows和Linux环境下部署QAnything项目，涉及NVIDIA显卡的确认、WindowsWSL的配置、DockerDesktop的安装，以及使用OpenAI大模型时遇到的问题与解决方案。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

1. 准备工作

首先把准备工作做做好, 这里也是最容易走弯路的地方, 官方的教程虽然没有错误, 但是有点混乱, 而且一些细节隐藏在了更深的文档中, 导致部署过程中遇到不少问题.

1.1 硬性条件

这里说的很明白了, 注意的是linux部署下也需要nvidia, 我一开始就是在云服务器linux下部署, 最终发现没有nvidia显卡, 所以又转到了window下部署.

所以尽量选择一台带有nvidia的机器, 查看显卡的命令为: nvidia-smi, 如果执行完没有结果, 那就不是nvidia



dibole@DIBOLE-AI:~/QAnything$ nvidia-smi
Fri Apr 12 17:14:42 2024
+---------------------------------------------------------------------------------------+
| NVIDIA-SMI 535.98.01              Driver Version: 536.99       CUDA Version: 12.2     |
|-----------------------------------------+----------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |         Memory-Usage | GPU-Util  Compute M. |
|                                         |                      |               MIG M. |
|=========================================+======================+======================|
|   0  NVIDIA GeForce RTX 4060 Ti     On  | 00000000:01:00.0 Off |                  N/A |
|  0%   39C    P8               7W / 16
最低0.47元/天 解锁文章
m0_48159647
关注
Qanything在Windows环境部署流程
weixin_40538248的博客
05-17 2248
系统版本：Windows 10 专业版版本号：22H2。
本地（局域网）部署有道QAnything问答的笔记（未完待续写）
aqdfxx的博客
05-28 3579
不要下载最新版4.30，我的老win10就是低于19044，所以开头就强调版本号，于是我就下载了2.4版。windows 虚拟机监控程序平台不开启的话可能导致后面docker desktop启动不起来。到这一步，wsl应该就可以用了，顺便记录一下常用的wsl命令。
QAnything：网易开源本地知识库问答系统
老皮的博客
11-17 2926
QAAnything（QAnything） 是一个本地知识库问答系统，旨在支持各种文件格式和数据库，允许离线安装和使用。用户只需将任何本地存储的任何格式的文件拖放到系统中，即可获得准确、快速和可靠的答案。PDF（pdf）Word（docx）PPT（pptx）Eml（eml）TXT（txt）XLS（xlsx）CSV（csv）图像（jpg，jpeg，png）网页链接（html）数据安全，支持在整个过程中插拔网线的安装和使用。跨语言问答支持，可以自由切换中英文问答，
网易有道 QAnything 安装部署实验
weixin_60729843的博客
03-20 6285
QAnything是一款本地知识库问答系统，支持导入任意格式文件或数据库进行问答，可在断网情况下使用。用户只需简单操作即可获取准确、快速的答案。该系统具有跨语种问答、高性能生产级系统等特点，采用两阶段检索架构，提供更精准的结果。用户可根据环境选择合适的安装方式，并通过前端页面或API接口使用。对于需要离线部署的用户，系统提供了详细的操作指南。QAnything为用户提供了强大、安全、灵活的文本问答服务，可广泛应用于各种应用场景。
网易有道开源本地知识库问答系统 QAnything 介绍及本地部署
最新发布
学亮编程手记
03-31 703
（Embedding + Rerank），能有效提升大规模数据检索的准确率，数据量越大效果越好。此外，QAnything 支持跨语种问答（中英文混合问答），并可通过私有化部署保障数据安全，适用于企业级应用和个人知识库管理。QAnything 是由网易有道推出的开源本地知识库问答系统，基于 RAG（检索增强生成）技术开发，支持多种文件格式（如 PDF、Word、PPT、图片、网页链接等）的离线问答。服务启动后，浏览器访问。即可上传文件并提问。
[AI]部署安装有道QanyThing
stringjava_001的博客
02-20 4386
部署安装有道Qanything
youdao-QAnything安装部署-GPU版
weixin_57233471的博客
04-10 2166
需要用到的应用：Docker Desktop、WSL2、Ubuntu 22.04.3直接官网下载安装对应版本即可，安装过程中没有选择步骤，安装完成需重启电脑。我这里下载完docker之后电脑里自己就有了WSL。修改docker存储路径：设置->resources->Disk image location。
Qanything 2 0项目部署启动手把手教程
CSDN_Lrcx的博客
09-23 2324
对于这种微服务架构的服务，启动的核心过程就是解决各种服务的配置问题。项目启动起来之后，接下来就可以愉快的玩耍了。debug的过程是理解Qanything以及RAG原理的核心过程，通过debug可以看到所有变量的值、可以看到一个请求进来之后这个项目的流转过程、可以看到一些很多介绍RAG的blog中忽略的细节信息。
网易有道QAnything 安装部署实践（RAG）
热门推荐
lianghao118的博客
02-11 2万+
网易有道QAnything 安装部署实践，理解一个完整RAG的高级构造。
幕僚云私有化部署Dify+Ollama+DeepSeek-r1
02-14
私有化部署指的是将软件系统独立部署在用户的企业内部，不在公有云上运行，以保障数据的私密性和安全性。而“幕僚云私有化部署Dify+Ollama+DeepSeek-r1”这一项目的实施，正是基于这样的市场需求和技术背景。 Dify...
大模型本地部署-dify私有化部署-教程
02-21
本文档标题为“大模型本地部署-dify私有化部署-教程”，该文档是一份专业指南，旨在指导用户如何在本地环境中部署一个大型机器学习模型，同时侧重于使用dify平台进行私有化部署。教程内容很可能涉及从准备工作、环境...
科大讯飞私有云部署手册-主备32页.docx
07-08
1. 私有云系统的部署需要进行必要的准备工作，包括创建系统用户、JDK 安装和配置、数据库安装和初始化等。 2. Pcloud 安装包是私有云系统的重要组件，需要进行安装和配置。 3. 在卸载私有云系统时，需要关闭启动的...
crm私有化部署和云部署的区别
TeemlinkMarket的博客
03-20 1214
编者按：企业在挑选crm系统的时候，会看到crm系统的介绍中包含私有化部署，也有公有云部署。很多刚开始了解crm的人可能不太清楚这两种概念的区别或联系。本文将为您解释什么是私有化部署，什么是公有云部署。通过私有化部署微鳄crm能实现数据安全，功能灵活，免运维等好处。
[AI]部署安装有道QanyThing_qanything部署教程，2024年最新大数据开发中常见的面试题
2401_84165919的博客
04-17 713
更改shell脚本的回车（在windows下创建编辑的shell脚本是dos格式的，而linux却是只能执行格式为uni格式的脚本），否则执行时会报错，将回车符替换为空字符串。1、在CMD/POWERSHELL中敲击命令wsl --version，查看WSL版本，如果版本为1.0则执行update命令，然后切换至2的版本。wsl安装好ubtuntu之后我们是可以在dokcer desktop里面看到已经装好的linux系统。3、开启虚拟化功能，1、2、3每步完成后均需要重启电脑；2、CPU开启虚拟化。
本地部署QAnything大模型Python版本
G在左,M在右
07-18 754
本次使用Windwos WSL 本地部署QAnything大模型，本文章主要适合无适合显卡并且想体验QAnything的用户。
QAnything知识库问答系统离线部署（LLM+RAG）
04-28 5434
QAnything 是网易有道开源的一个问答系统框架，支持私有化部署和SaaS服务两种调用形式。它能够支持多种格式的文件或数据库，提供准确、快速和可靠的问答体验。目前已支持的文件格式包括PDF、Word、PPT、Markdown、Eml、TXT、图片（jpg、png等）以及网页链接等。
网易有道QAnything使用CPU模式和openAI接口安装部署
一个今天胜过两个明天
06-02 1906
修改qanything_kernel/connector/llm/llm_for_openai_api.py程序中top_p参数值，否则运行qwen模型会报错。本机环境windows11 首先安装WSL环境, 安装方法参考https://zhuanlan.zhihu.com/p/671942941。修改scripts/run_for_openai_api_with_cpu_in_Linux_or_WSL.sh中对应的参数。安装好WSL环境后，启动WSL安装的ubuntu，下面安装git和git-lfs。
实战搭建网易有道的QAnything(一） 前提准备工作
morsth的博客
04-07 2675
早上地铁上刷到了关于有道的QAnything的介绍，刚好也有搭建一个知识库的想法，既然有想法那就干起来，电脑的操作系统用的win11，显卡用了两块4060。
私有化部署和私有云部署
08-10
私有化部署和私有云部署是两个概念。 私有化部署是指将软件和数据库安装在企业自己的服务器上，可以是云端服务器或公司内部的一台电脑。企业对软件和数据库具有决策权，可以更好地保证数据安全性和功能适配性，以及方便灵活的扩展和定制。123 #### 引用[.reference_title] - *1* *3* [私有化部署vs公有云部署，公私有别](https://blog.csdn.net/L39935539/article/details/126623231)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}} ] [.reference_item] - *2* [crm私有化部署和云部署的区别](https://blog.csdn.net/TeemlinkMarket/article/details/129662506)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}} ] [.reference_item] [ .reference_list ]
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值