Ollama的手动(离线)安装

本文所以命令需要使用root权限运行

起因

由于Ollama的官方安装脚本需要从Github下载程序，所以国内速度较慢，需要进行手动安装。

自动安装

curl -fsSL https://ollama.com/install.sh | sh

经过测试，速度较慢。

下载主程序

查看cpu架构

lscpu

这里我的设备是arm64。

根据自己的cpu架构，下载对应的版本。

网址：https://github.com/ollama/ollama/releases/​​​​​​

以v0.3.6为例

 由于我使用的设备cpu架构为arm64，这里选择下载ollama-linux-arm64。

提示：对于大多数桌面端，cpu架构通常为amd64。

手动安装

将程序移动至/usr/bin并改名为ollama(假设已经改名，并且该文件在终端运行的目录)

cp ollama /usr/bin/ollama

赋予执行权限

chmod +x /usr/bin/ollama

为Ollama创建用户：

sudo useradd -r -s /bin/false -m -d /usr/share/ollama ollama

创建一个在/etc/systemd/system/ollama.service的service文件

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3

[Install]
WantedBy=default.target

 

命令：

echo '[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3

[Install]
WantedBy=default.target' > /etc/systemd/system/ollama.service

 

启动服务

sudo systemctl daemon-reload
sudo systemctl enable ollama

 

完成

到这里就安装完成了。