模型启动报错问题

1. 提取报错信息: 

huggingface_hub.errors.HFValidationError: Repo id must be in the form 'repo_name' or 'namespace/repo_name': '/root/Qwen2.5-Coder-7B '. Use `repo_type` argument if needed.

 使用本地推理引擎启动正常,docker挂载后启动异常,报错信息如下:

处理思路:

   看似路径问题,先从路径和权限方面入手,但使用特权容器启动后依旧报错,并且进到容器排查该路径下模型存在且无误

最终解决方案:

 容器内模型挂载路径不能使用两层路径,加成三层目录可解决。

例如: 

docker run -d -v  /root/ai/Qwen2.5-Coder-7B:/root/Qwen2.5-Coder-7B 会报上述错误

改为

docker run -d -v  /root/ai/Qwen2.5-Coder-7B:/root/ai/Qwen2.5-Coder-7B  可解决

 总结:启动遇到类似  'repo_name' or 'namespace/repo_name' 的报错,多为模型路径找不到的错误,可从该思路入手排查

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值