文章目录
重要提醒:MINDIE镜像已更新版本,官网相关文档直接被删除了,建议直接移步新版
昇腾,mindie,镜像,部署vllm:第1篇,安装新的docker 镜像
昇腾,mindie,镜像,部署vllm:第2篇,启动mindieservice_daemon服务,支持对Qwen2.5的7B版本的推理
前言
我们在上一篇文章华为NPU服务器昇腾Ascend 910B2部署通义千问Qwen2.5——基于mindie镜像一路试错版(一ÿ