对官网Qanything的docker版本安装补充

docker版本安装攻略（Linux或Win11 WSL环境）

本文是在官方安装文档的基础上面进行扩展，记录了自己安装的一些坑，具体的安装过程还是要查阅Qanything的官网安装文档

安装之前记住：一定要按照官网的安装顺序和本文的参考，一步步执行，否则有可能出现各种错误

一、安装NVIDIA Driver （>=525.105.17）

更新依赖

1. 更新系统：首先，更新你的系统包列表和系统本身，确保所有的依赖都是最新的。

   // Ubuntu 系统命令
   sudo apt update
   sudo apt upgrade
   // Linux 系统命令
   sudo yum check-update
   sudo yum update
   

2. 安装必要的依赖：

   // Ubuntu 系统命令
   sudo apt install build-essential
   // Linux 系统命令
   sudo yum groupinstall "Development Tools"
   

请一定要进行更新依赖这个操作，要不然：在安装Nvidia驱动时会报出很多错误。

步骤 2：禁用 Nouveau 驱动（如果已卸载过旧版驱动可跳过）

Ubuntu 默认使用 Nouveau 驱动程序来支持 NVIDIA 的显卡。在安装官方 NVIDIA 驱动前，你需要禁用 Nouveau 驱动。

1. 打开 /etc/modprobe.d/blacklist-nouveau.conf 文件，如果没有则进行创建就行：

   sudo nano /etc/modprobe.d/blacklist-nouveau.conf
   

   添加以下内容后保存：

   blacklist nouveau
   options nouveau modeset=0
   

2. 更新初始化 RAM 文件系统：

   // Ubuntu 系统命令
   sudo update-initramfs -u
   // Linux 系统命令
   dracut --forece
   

3. 重启你的系统：

   sudo reboot
   

步骤 3：安装 NVIDIA 驱动

Qanything官网教程是进行命令行的安装，也可以在官网下载对应版本的依赖（本人使用）：

在 Linux 中查看GPU版本的命令：

lspci | grep -I nvidia

推荐官网和博客如下：

下载 NVIDIA 官方驱动 | NVIDIA

【个人笔记】Nvidia GPU驱动安装教程（A10）_a10显卡驱动-CSDN博客

如果在安装途中遇到各种问题请参考一下文章：

安装英伟达驱动错误-CSDN博客

二、安装docker（>=20.10.5）和docker-compose（>=2.23.3）

步骤 2：如果需要，卸载旧版本

步骤 3：安装 Docker

步骤 4：安装 Docker Compose

三、安装NVIDIA Container Toolkit

安装 NVIDIA Container Toolkit

官网的是Ubuntu系统，

Linux直接在官网中查看下载命令：

Installing the NVIDIA Container Toolkit — NVIDIA Container Toolkit 1.16.0 documentation

四、安装git和git-lfs

如果网络质量较差，可以不进行安装，直接下载对应的zip包即可

要检查 Git 和 Git Large File Storage (Git LFS) 是否已安装，并在需要时安装它们，你可以按照以下步骤操作：

五、安装QAnything

注意

在启动run.sh之前，需要对脚本中的各种字符进行替换（将 windows下的字符替换为LInux下的字符）

推荐博客为：

网易有道QAnything 安装部署实践（RAG）_qanything 部署-CSDN博客

在启动run.sh之后，会开始下载docker镜像，这一块很占用磁盘空间，如果默认docker默认存储的地方位置不足则会导致出错，这里修改路径到对应存储位置：（Qanything整体大约80GB）

{
  "registry-mirrors": ["https://vsxcs7sq.mirror.aliyuncs.com"], // 镜像源
  "data-root": "/home/app/docker" // 存储地址
}

最后安装各种依赖的位置如图所示：

models在Qanything的根目录中，

Qwen-7B-QAnything在QAnything/assets/custom_models中

models模型下载地址：有道QAnything · 模型库 (modelscope.cn)

Qwen-7B-QAnything模型下载地址：QAnything微调Qwen-7B模型 · 模型库 (modelscope.cn)

最后在执行安装时，需要对执行的文件添加上可执行权限，需要添加的文件为：run.sh，/script/run_for_local_option.sh。否则会在执行run.sh时会出现Permisssion deny错误。