Milvus - GPU 版本安装教程

本文将详细介绍如何安装支持 GPU 的 Milvus 版本，以及所需的硬件和软件环境要求。

1. 计算能力要求

安装 GPU 版本的 Milvus，首先需要确保您的 GPU 设备支持以下计算能力：

• 6.0
• 7.0
• 7.5
• 8.0
• 8.6
• 9.0

可以访问 NVIDIA 开发者网站 查看您的 GPU 是否符合计算能力的要求。

2. NVIDIA 驱动要求

您的 GPU 设备必须安装支持的 NVIDIA 驱动程序，具体要求如下：

• 驱动程序版本：建议 545 或更高版本。

在 Ubuntu 22.04 中，可以通过以下命令安装驱动程序及相关的 NVIDIA Container Toolkit：

sudo apt install --no-install-recommends nvidia-headless-545 nvidia-utils-545

使用以下命令检查驱动是否安装成功：

modinfo nvidia | grep "^version"

输出应类似：

version: 545.29.06

3. 软件要求

• 操作系统：建议使用 Linux 平台。
• Kubernetes：1.16 或更高版本。
• kubectl：Kubernetes 命令行工具，版本需与 Kubernetes 集群版本匹配。
• Helm：3.0.0 或更高版本，用于部署 Milvus。
• Docker：19.03 或更高版本。

4. 本地启动 Kubernetes 集群

可以使用 Minikube 来本地启动 Kubernetes 集群。步骤如下：

1. 下载并安装 Minikube。可以访问 Minikube 官方文档 获取具体下载命令。
2. 启动 Kubernetes 集群：

   minikube start
   

3. 检查 Kubernetes 集群状态：

   kubectl cluster-info
   

5. 在 Kubernetes 中启用 GPU 支持

要在 Kubernetes 集群中启用 GPU 节点，请按以下步骤操作：

1. 准备 GPU 节点：确保 GPU 驱动和 NVIDIA Container Toolkit 安装正确。
2. 部署 NVIDIA 插件：通过 Helm 部署 nvidia-device-plugin：

   helm install nvidia-device-plugin nvidia-device-plugin/nvidia-device-plugin
   

3. 查看 GPU 资源：

   kubectl describe node <gpu-worker-node>
   

6. 使用 Helm 启动 GPU 版本的 Milvus

Milvus 提供了一套 Helm 图表，可以帮助你在 Kubernetes 集群上快速部署 Milvus 实例。

1. 安装 Milvus Helm 图表

首先，添加 Milvus Helm 仓库：

helm repo add milvus https://zilliztech.github.io/milvus-helm/
helm repo update

2. 配置 GPU 资源

为 Milvus 分配一个或多个 GPU 设备。以下是为单节点 Milvus 配置单个 GPU 的示例：

cat <<EOF > custom-values.yaml
standalone:
  resources:
    requests:
      nvidia.com/gpu: "1"
    limits:
      nvidia.com/gpu: "1"
EOF
helm install my-release milvus/milvus --set cluster.enabled=false --set etcd.replicaCount=1 --set minio.mode=standalone --set pulsar.enabled=false -f custom-values.yaml

如果需要为 Milvus 分配多个 GPU，修改 custom-values.yaml 文件如下：

cat <<EOF > custom-values.yaml
indexNode:
  resources:
    requests:
      nvidia.com/gpu: "2"
    limits:
      nvidia.com/gpu: "2"
queryNode:
  resources:
    requests:
      nvidia.com/gpu: "2"
    limits:
      nvidia.com/gpu: "2"
EOF
helm install my-release milvus/milvus -f custom-values.yaml

3. 启动 Milvus

通过以下命令启动 Milvus：

kubectl get pods

所有 Pod 状态应为 Running，并且 READY 列显示 1/1。

4. 端口转发

将本地端口转发到 Milvus 服务：

kubectl port-forward service/my-release-milvus 27017:19530

7. 使用 Docker Compose 安装支持 GPU 的 Milvus

如果你更喜欢使用 Docker Compose，可以通过以下步骤安装支持 GPU 的 Milvus：

1. 下载 Docker Compose 文件

下载 Milvus 的 GPU 版本 Docker Compose 文件：

wget https://github.com/milvus-io/milvus/releases/download/v2.4.9/milvus-standalone-docker-compose-gpu.yml -O docker-compose.yml

2. 启动 Milvus

运行以下命令启动 Milvus：

sudo docker compose up -d

3. 检查容器状态

确认容器已启动并运行：

sudo docker compose ps

8. 配置 Milvus 内存池

启动 Milvus 后，可以通过修改 milvus.yaml 文件来配置内存池。

将 milvus.yaml 文件从容器中复制到本地进行编辑：

docker cp <milvus_container_id>:/milvus/configs/milvus.yaml milvus.yaml
vim milvus.yaml

编辑后，将文件复制回容器并重启：

docker cp milvus.yaml <milvus_container_id>:/milvus/configs/milvus.yaml
docker stop <milvus_container_id>
docker start <milvus_container_id>

9. 卸载 Milvus

卸载 Milvus 可以使用以下命令：

helm uninstall my-release

至此，您已经成功完成了支持 GPU 的 Milvus 的安装和配置。如果在安装过程中遇到问题，可以通过 community@zilliz.com 联系 Milvus 社区获得支持。