【AI】ragflow 多张 4090 GPU 初始化文档报错 NCCL Error 2: unhandled system error

最新推荐文章于 2025-03-14 09:42:33 发布

hkNaruto

最新推荐文章于 2025-03-14 09:42:33 发布

阅读量937

点赞数 7

分类专栏： ai 文章标签： ai docker nvidia

本文链接：https://blog.csdn.net/hknaruto/article/details/145772456

版权

故障


18:53:19 Task has been received.
18:53:26 Page(1~100000001): Text extraction finished.
18:53:40 Page(1~100000001): Image extraction finished
18:53:41 Page(1~100000001): Generate 69 chunks
18:53:42 Page(1~100000001): [ERROR]Generate embedding error:NCCL Error 2: unhandled system error (run with NCCL_DEBUG=INFO for details)
18:53:42 [ERROR][Exception]: NCCL Error 2: unhandled system error (run with NCCL_DEBUG=INFO for details)

GPU

解决方案

1. 调整Docker容器启动参数（核心步骤）

修改docker-compose.yml中ragflow-server的配置，添加以下参数：


services:
  ragflow-server:
    image: infiniflow/ragflow:v0.16.0
    deploy:
      resources:
        reservations:
          devices:
            -