在Mac mini M4上部署DeepSeek R1本地大模型

在Mac mini M4上部署DeepSeek R1本地大模型

安装ollama

本地部署,我们可以通过Ollama来进行安装

Ollama 官方版:【点击前往】
Web UI 控制端【点击安装】

如何在MacOS上更换Ollama的模型位置

默认安装时,OLLAMA_MODELS 位置在"~/.ollama/models"

只需要通过更改Mac的环境变量,并且重启Ollama就可以达到目的。

launchctl setenv OLLAMA_MODELS “你的模型文件夹路径”
举例如下:我有一个共享磁盘目录,希望把大文件放在这里

launchctl setenv OLLAMA_MODELS “/Volumes/192.168.2.127/AI/Ollama/mac/ollama_models”

~/.ollama/models是一个隐藏文件夹,你需要通过Command⌘+Shift⇧+。来让它显形。或者直接执行下方命令(确认后可以删除之前文件夹中内容)。

cp -R ~/.ollama/models 你的模型文件夹路径
重新启动Ollama APP

下载大模型文件Mac mini M4系统老是重置问题的解决

我用windows系统下载好文件以后从E:\AI\Ollama\blobs复制到E:\AI\Ollama\mac\ollama_models\blobs即mac系统的/Volumes/192.168.2.127/AI/Ollama/mac/ollama_models/blobs

C:\Users\Administrator>ollama run deepseek-r1:7b
pulling manifest
pulling 96c415656d37... 
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值