通过 Docker 运行 ModelScope

最新推荐文章于 2025-04-21 20:19:54 发布

hawk2014bj

最新推荐文章于 2025-04-21 20:19:54 发布

阅读量2.2k

点赞数 8

文章标签：深度学习

本文链接：https://blog.csdn.net/hawk2014bj/article/details/138968151

版权

ModelScope社区

ModelScope 是一个一站式 AI 开发社区，提供各种主流模型。支持推理训练，ModelScope 也提供免费GPU 进行模型测试，在线一键部署，简单易用。今天分享一下，如何通过容器的方式在本地快速搭建并使用 ModelScope 中的模型。

安装 Docker GPU 插件
启动镜像
下载模型

安装 Docker GPU 插件

在 Ubuntu 下的安装方法，如果需要其他系统的安装方式，请到官网查看。

安装 APT 源

curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \
  && curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
    sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \
    sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.l