ollama离线与在线安装

在线安装：
在线安装在线安装地址https://ollama.com/download选择服务器系统，按照步骤完成安装

离线安装：

①根据服务器CPU的型号去下载对应安装包

https://github.com/ollama/ollama/releases/

②保存到/home/Ollama目录

③需要修改install.sh脚本

vim install.sh

status "Downloading ollama..."
## 在install.sh的第65行
#curl --fail --show-error --location --progress-bar -o $TEMP_DIR/ollama "https://ollama.com/download/ollama-linux-${ARCH}${VER_PARAM}"

status "Installing ollama to $BINDIR..."
$SUDO install -o0 -g0 -m755 -d $BINDIR
## 在install.sh的第73行
#$SUDO install -o0 -g0 -m755 $TEMP_DIR/ollama $BINDIR/ollama
$SUDO install -o0 -g0 -m755 ./ollama-linux-amd64  $BINDIR/ollama

修改完这两处保存并退出 :wq
 

⑤运行 install.sh脚本 ,安装

sed -i 's/\r$//' install.sh

chmod +x install.sh

⑥配置大模型下载目录

vim ~/.bashrc  修改文件

默认为/usr/share/ollama/.ollama/models，改为自定义路径，

export OLLAMA_MODELS=/home/Ollama/ollama_cache

复制/usr/share/ollama/.ollama/models目录中（blobs  manifests）的文件夹到OLLAMA_MODELS环境变量目录
cp -r /usr/share/ollama/.ollama/models /home/Ollama/ollama_cache

如果后续下载模型报内存不足的错误：

参考：Ollama模型下载路径替换！靠谱！（Linux版本）-CSDN博客

修改完文件后：重新加载服务、关闭ollama服务、启动ollama服务。

systemctl daemon-reload

sudo systemctl stop ollama

sudo systemctl start ollama

⑦ 下载并运行大模型
ollama run phi3

参考：Linux内网离线安装Ollama_ollama 的下载位置-CSDN博客