Linux ollama手动安装与更改模型下载位置及deepseek部署

# 手动下载 ollama-linux-amd64.tgz

https://github.com/ollama/ollama/releases/

# 于私人磁盘创建ollama安装目录(自己定制)

mkdir -p /mnt/sdb1/niuc/ollama

 #解压安装

sudo tar -C /mnt/sdb1/niuc/ollama -xzf ollama-linux-amd64.tgz

# 测试运行Ollama

ollama serve 

 然后新开一个控制台

 # 手动添加ollama.service文件相关准备

  • 创建模型文件存储目录
sudo mkdir -p /mnt/sdb1/niuc/Ollama/models
  • 更改目录权限,确保 Ollama 有权限访问和写入:
sudo chown -R $(whoami):$(whoami) /mnt/sdb1/niuc/Ollama/models
sudo chmod -R 777 /mnt/sdb1/niuc/Ollama/models
  •  编辑 Ollama 服务的配置文件。使用以下命令打开配置文件
sudo nano /etc/systemd/system/ollama.service
  •  复制粘贴以下内容,按Ctrl键+X,选Y保存,点击回车
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin"
Environment="OLLAMA_MODELS=/mnt/sdb1/niuc/Ollama/models"

[Install]
WantedBy=default.target

这个ollama.service的细节内容参照这个文章,

ollama.service服务配置说明_mac ollama.service 配置-CSDN博客

需要注意ExecStart路径,user,group权限,评论区里看到改为root会避免一些bug。

评论区的链接:

Ollama模型下载路径替换!靠谱!(Linux版本)_修改ollama模型路径-CSDN博客

  •  重载系统服务配置并重启ollama,并查询ollama状态
sudo systemctl daemon-reload
sudo systemctl restart ollama
sudo systemctl status ollama

 状态正常:

 并检查新路径(/mnt/sdb1/niuc/Ollama/models)下是否生成文件 blobs 和 manifests

# 迁移已经下载过的模型

如何查询现有大模型文件位置,我用的是find指令
find / -name "*deepseek*"
 移动大模型,询问时输入y回车即可
mv /home/niuc/.ollama/models/* /mnt/sdb1/niuc/Ollama/models
 创建软链接,防止原先有些加载这个路径产生bug
ln -s /mnt/sdb1/niuc/Ollama/models /home/niuc/.ollama/models

 ollama list

查看ollama的大模型有哪些,可判断是否移动过来,然后运行加载模型

ollama run deepseek-r1:1.5b

 这些都可以下载尝试一下

ollama pull deepseek-r1:1.5b
ollama pull deepseek-r1:latest
ollama pull deepseek-r1:7b
ollama pull deepseek-r1:14b
ollama pull deepseek-r1:70b

如果还是无法访问到模型,大概率是权限或者系统变量路径的问题,需要现把ollama serve 关闭,

参考这篇文章:

 241217-解决Ollama无法通过配置文件修改模型下载路径的方法_GuokLiu的技术博客_51CTO博客

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

m0_NZC_62899814

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值