docker部署大模型启动器

可爱的蜗牛牛

已于 2024-04-14 11:42:14 修改

阅读量299

点赞数 2

文章标签： docker 容器运维

于 2024-04-14 10:49:38 首次发布

本文链接：https://blog.csdn.net/qq_21258589/article/details/137739189

版权

管理员启动

代码我的部署在C盘

docker run --ulimit memlock=-1 --ulimit stack=67108864 --name xinference -v C:\xinference:/tmp/xinference -e XINFERENCE_HOME=/tmp/xinference -p 9998:9997 -e XINFERENCE_MODEL_SRC=modelscope xprobe/xinference:v0.9.4-cpu xinference-local -H 0.0.0.0 --log-level debug

C盘新建文件夹