Linux环境离线安装Ollama

Ollama离线安装 – Linux环境

【说明】最近在服务器上安装ollama时，由于网络问题，无法下载，因此采用离线方式安装，供大家参考。

【系统版本】ubuntu22.04

一、离线安装

Ollama通常可以直接采用官网命令安装：

curl -fsSL https://ollama.com/install.sh | sh

​但是由于国内访问ollama官网进行安装，会出现下载卡住情况，为了解决这一问题，可以采用离线安装。

根据CPU下载对应型号的Ollama安装包，这里下载的是Ollama V0.3.6下对应的ollama-linux-amd64。

【文件下载地址】https://github.com/ollama/ollama/releases/

将下载的文件上传到服务器，然后在ollama-linux-amd64文件路径下执行以下命令，即可运行服务。

sudo chmod +x ollama-linux-amd64
sudo ./ollama-linux-amd64 serve

使用命令

完成上述步骤后，你可以打开新的终端，直接使用 ollama 命令，例如：

ollama pull [model-name]

二、采用Ollama命令启动服务

为了直接符合使用习惯，采用ollama命令启动服务，我们可以执行以下方式进行修改。

1. 将文件移动到 /usr/local/bin（或其他 PATH 目录）并重命名：

   sudo mv /mnt/workspace/ollama-linux-amd64 /usr/local/bin/ollama
   

2. 如果显示权限不够，可以使用以下命令确保文件具有执行权限：

   sudo chmod +x /usr/local/bin/ollama
   

现在你可以直接使用 ollama 命令启动服务了。

• 如果你需要将文件恢复到原来的位置，可以使用以下命令：

  sudo mv /usr/local/bin/ollama /mnt/workspace/ollama-linux-amd64