Ollama在Docker下的安装与配置

docker部署Ollama

一、拉取 Ollama 镜像

方式一:Docker 软件在可视化界面中搜索并下载

在这里插入图片描述

方式二:官网推荐直接使用下面的指令拉取下载镜像,本项目只需在CPU上即可运行。

# CPU 或者 Nvidia GPU 
docker pull ollama/ollama

# AMD GPU
docker pull ollama/ollama:rocm

注:如果读者想要使用具体的版本的镜像,明确运行环境,可以使用下面的指令:

# CPU 或 Nvidia GPU下载ollama 0.3.0
docker pull ollama/ollama:0.3.0
# AMD GPU下载ollama 0.3.0
docker pull ollama/ollama:0.3.0-rocm

二、运行ollama镜像

方式一:Docker在可视化界面中运行镜像

  • 下载完成后,可以在 Images中找到 Ollama 镜像,点击 run 标识即可运行,注意运行前在弹出的可选设置里面,选定一个端口号(如8089)。

在这里插入图片描述

  • Containers 中找到该镜像,点击 OLLM 即可进入 Ollama 界面

在这里插入图片描述

  • 验证安装完成,在 Exec 处输入:
ollama -h

输出如下:即表示安装成功🎉


Large language model runner

Usage:
  ollama [flags]
  ollama [command]

Available Commands:
  serve       Start ollama
  create      Create a model from a Modelfile
  show        Show information for a model
  run         Run a model
  pull        Pull a model from a registry
  push        Push a model to a registry
  list        List models
  ps          List running models
  cp          Copy a model
  rm          Remove a model
  help        Help about any command

Flags:
  -h, --help      help for ollama
  -v, --version   Show version information

在这里插入图片描述

  • 终端使用 Ollama :

以下是 Ollama 使用常见的指令:


ollama serve         #启动ollama
ollama create        #从模型文件创建模型
ollama show          #显示模型信息
ollama run           #运行模型
ollama pull          #从注册表中拉取模型
ollama push          #将模型推送到注册表
ollama list          #列出模型
ollama cp            #复制模型
ollama rm            #删除模型
ollama help          #获取有关任何命令的帮助信息
ollama run llama3

下载速度取决于你的带宽,下载完毕即可使用✌记得使用 control + D 退出聊天

方式二:命令行启动

  • CPU 版本:
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
### 如何使用Docker安装Ollama 尽管提供的参考资料未直接涉及通过Docker安装Ollama的具体步骤,基于对容器化应用部署的理解以及常见的Docker应用程序安装流程,可以构建一个合理的指导方案来完成这一任务。 #### 准备工作 确保本地环境已经正确配置Docker服务。如果尚未安装Docker,请先访问[Docker官方文档](https://docs.docker.com/get-docker/)按照指示进行安装[^4]。 #### 获取Ollama镜像 通常情况下,软件提供商会在其官方网站或GitHub页面提供用于Docker部署的相关资源链接。对于Ollama而言,假设存在官方支持的Docker Hub仓库地址,则可以通过执行如下命令拉取最新版本的Ollama镜像: ```bash docker pull ollama/ollama:latest ``` 此操作会从Docker Hub下载名为`ollama/ollama`的镜像文件到本地环境中。 #### 启动Ollama容器实例 成功获取所需镜像之后,下一步就是创建并启动一个新的容器实例运行该应用。这里给出一个基本的例子说明如何做: ```bash docker run -d --name my_ollama_instance \ -p 8080:80 \ -e ENV_VAR_NAME=value \ -v /path/to/local/data:/data \ ollama/ollama:latest ``` 上述命令中的参数解释如下: - `-d`: 表示以后台模式启动容器; - `--name`: 给新创建的容器指定名称; - `-p`: 将主机端口映射至容器内部的服务监听端口; - `-e`: 设置环境变量(如果有需求的话); - `-v`: 定义卷挂载路径以便于数据持久化存储; 请注意,在实际应用场景下可能还需要调整这些选项以满足特定业务逻辑的要求。 #### 验证安装成果 最后一步是验证Ollama是否能够正常运作。这一般涉及到检查日志输出、尝试访问Web界面或者调用API接口等方式来进行确认。例如,查看容器的日志信息可以用下面这条指令实现: ```bash docker logs my_ollama_instance ``` 另外也可以利用浏览器或其他HTTP客户端工具向已知开放的URL发起请求测试连接状态。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值