m0_63595240的博客

原创 一键部署Docker版dots.ocr，简化OCR服务搭建

本文介绍了使用Docker容器快速部署dots.ocr服务的流程。通过预配置的Docker镜像（rednotehilab/dots.ocr:vllm-openai-v0.9.1）启动GPU容器，安装vLLM并启动服务。随后在容器外创建conda环境，克隆项目代码并安装依赖。部署过程简化了环境配置，支持通过demo_vllm.py测试OCR服务。文中特别指出可根据硬件情况调整GPU内存利用率参数，并建议删除编译耗时的flash_attn依赖以加快安装。