Mac mini m4本地跑大模型（ollama + deepseek + ComfyUI + Stable Diffusion ｜ flux)

置顶 已于 2025-03-03 14:01:31 修改
阅读量1.7w 收藏 41
点赞数 24
分类专栏： AIGC 文章标签： ai
于 2024-12-10 17:32:45 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/JGMa_TiMo/article/details/144371045
版权

change log

2025-03-03 14:28（推荐重新观看）

  • 针对本地化deepseek r1的部署进一步说明；

2024-12-11 10:28

  • 针对绘画大模型的使用做进一步的详细操作（flux1dev）
    见篇节（绘画大模型）

2024-12-10

  • 更新了基础的chat大模型和绘画大模型的基础环境搭建。

安装chat大模型（不推荐，本地运行的大模型只能聊废话，不如网页版使用openAI等高效）

如果只是玩玩的话可以，llama3回复非常迅速，也非常有灵性，但是真实性非常差！！！请不要让他帮你干生产力工作。

首先下载ollama的安装包

https://ollama.com/
点击启动访问：http://localhost:11434
Ollama is running
代表已经运行起来了！

安装大模型和配置模型路径（macOS配置ollama模型路径）

Mac机身内存寸土寸金，外置硬盘盒将大模型安装到里面也可以运行，下面是修改ollama模型路径的方法：

  • 官方说设置环境变量OLLAMA_MODELS就可以了，但是在macOS上我试了好像没什么作用，包括设置访问权限chmod等都没用。
  • 这里说我的解决方案：

创建符号链接的方案！

默认ollama会放到根目录：.ollama文件夹下，打开终端

最低0.47元/天 解锁文章
新款 Mac Mini M4 接受 AI 推理测试, Stable diffusion、Flux、qwen2.5-code
iCloudEnd的博客
11-28 795
搭载 M4 处理器的 Mac mini 有哪些变化？售价 599 美元的最新款 Mac mini M4 16GB 在 AI 任务上的表现如何？让我们一探究竟。
苹果大模型系列之 从头开始在 Apple Silicon 上进行 ComfyUI(教程含完整步骤)
iCloudEnd的博客
07-18 1326
如何在搭载 Apple Silicon 的 MacBook Pro 上安装 ComfyUI，并开始使用 Stable Diffusion 创作 AI 生成的艺术作品。无需开发技能。在安装了 Python 3.9 的 M1 MacBook Pro 和安装了 Python 3.10 的 M1 Max MacBook Pro 上进行了测试，均使用 macOS Sonoma 14.1.2。
做大模型 千万别买苹果笔记本电脑
weixin_41046245的博客
08-29 5748
256-bit显存位宽，16GB GDDR6X显存，显存频率：22.4GHz。- 384-bit显存位宽，24GB GDDR6X显存，显存频率：21GHz。- 384-bit显存位宽，24GB GDDR6X显存，显存频率：21GHz。- 256-bit显存位宽，16GB GDDR6X显存，显存频率：23GHz。- 256-bit显存位宽，16GB GDDR6X显存，显存频率：21GHz。- 核心频率：2235MHz，加速频率：2520MHz。- 核心频率：2280MHz，加速频率：2520MHz。
在 Mac mini M2 上本地部署 DeepSeek-R1:14B：使用 Ollama 和 Chatbox 的完整指南
技术的学习与积累是个技术活
02-24 2490
通过 Ollama 和 Chatbox，你可以在 Mac mini M2 上轻松部署并使用 DeepSeek-R1:14B 模型。整个过程简单高效，且不需要复杂的配置。无论你是技术新手还是有一定经验的开发者，都可以快速上手并享受本地 AI 模型带来的便利。希望本文能帮助你顺利完成部署，开启智能对话的新体验！如果你在部署过程中遇到任何问题，欢迎随时留言交流。
Mac mini运行DeepSeek R1与QwQ-32B模型：实测报告与性能分析！
2401_85343303的博客
04-02 3086
Mac mini 运行大模型的能力已接近中端 GPU 工作站• ✅：适合企业级复杂场景，但需 14 核 CPU + 20 核 GPU + 64GB 内存的顶配支撑。• ✅QwQ-32B：个人开发者首选，量化版在 16GB 机型上即可流畅运行，但由于量化了，推理质量一般。全量版和，差不多。最终建议：优先根据任务复杂度选择模型，再通过量化与硬件优化降低成本。附：实测环境• 系统版本：macOS Sequoia 15.0• 框架工具：MLX 0.8.2 + Ollama 0.6.2。
在Mac mini M4上部署DeepSeek R1本地大模型
weixin_44626085的博客
02-03 1万+
Web UI 控制端。
Mac mini m4本地跑大模型（ollama + llama + ComfyUI + Stable Diffusion ｜ flux)
12-11
ComfyUI运行flux项目示例
M4 Mac mini运行DeepSeek-R1模型
fenglllle的博客
03-01 2192
仅仅是分享体验感受，实际上体验本地的AI模型的门槛是很低的，一般的Intel 核显就行，也需要一定的显存，不过不是特别消耗，如果实在不足那么也可以降低模型的大小，当然蒸馏模型越小失真就越严重，物理定律是不能违背的。另外也可以配置一个UI界面，如果是生产环境就建议部署docker应用，自己本地体验实际上用免费的桌面软件就好了。
在 Mac Mini M4 上本地跑大模型（Ollama + Llama + ComfyUI + Stable Diffusion ｜ Flux）
最新发布
小蜗牛的珍贵百宝箱
04-30 1486
Mac Mini M4 配备了苹果自家研发的 M1/M2/M4 芯片，具有强大的处理能力，能够支持本地跑一些大模型，尤其是在使用如 Ollama、Llama、ComfyUI 和 Stable Diffusion 这类 AI 相关工具时，性能表现非常好。在 Mac Mini M4 上本地运行大模型是一项具有挑战性的任务，但通过合理的资源管理和配置，可以使得这些强大的工具和框架运行流畅。在 ComfyUI 中，选择你想要的模型（例如 Stable Diffusion），输入文本提示，点击“生成”按钮即可。
M2 Mac mini跑Llama3
fenglllle的博客
04-29 3380
在4-19左右，Meta 宣布正式推出下一代开源大语言模型Llama 3；共包括 80 亿和 700 亿参数两种版本，号称 “是 Llama 2 的重大飞跃”，并为这些规模的 LLM 确立了新的标准。实际上笔者早就体验过，只不过自己电脑没什么显卡（核显），所以一直没跑llama，但是最近听说m2芯片可以运行，就体验了一下。看图表8B的数据可以在本地运行，70B就不用想了。试了一下真的可行。
Stable Diffusion 3.5 介绍
kcarly的专栏
01-25 1356
下载模型文件可以从 Hugging Face 平台下载 Stable Diffusion 3.5 的模型文件。具体版本包括 Stable Diffusion 3.5 Large、Stable Diffusion 3.5 Large Turbo 和即将发布的 Stable Diffusion 3.5 Medium。下载的文件通常包括和等文件。安装 ComfyUI从 GitHub 下载并安装 ComfyUI。ComfyUI 是一个用于部署和运行 Stable Diffusion 模型的工具。
Mac本地部署大模型-单机运行
weixin_42458975的博客
07-04 2979
在macbook上单机部署运行测试大模型，使用ollama运行阿里通义千问Qwen2.0低参数版本大模型，并给出性能对比。
苹果M4芯片：大模型本地运算的转折点
weixin_41496173的博客
05-14 8304
在人工智能和机器学习领域，大模型的兴起对硬件提出了前所未有的挑战。苹果公司最近推出的M4芯片，被视为其在这场竞赛中的“第一式”。本文将探讨M4芯片的特点，并与其他芯片进行比较。
仅需三步，在 Mac 电脑部署本地大模型，打造私人 ChatGPT
m0_63171455的博客
07-31 7658
型号： MacBook Pro芯片：Apple M1（M1/M2/M3 任何芯片的都可以，越高端的性能越好）内存： 16 G（内存越大越好，8G 也能体验，但是只能用小模型）硬盘： 256 G（越大越好）
Mac mini m4部署大模型2
feizhijie1992的博客
03-30 641
增加环境变量配置 export PATH="/opt/homebrew/bin:$PATH"到～./zshrc中并执行source ~/.zshrc。～/.zshrc添加export PATH="/Volumes/soft/miniconda3/bin:$PATH"执行conda env list，输出一下信息则配置成功。不需要Xcode IDE的，可以直接安装。其作用如下：1. ‌。指定安装3.11版本的Python。是 macOS 系统中用于 ‌。配置扩展坞磁盘存放软件。
苹果最强芯M4 Max首发！官方定位可开发大模型，新MacBook Pro顶配57099元
量子位
10-31 631
克雷西 发自 凹非寺量子位 | 公众号 QbitAI现在，只用MacBook Pro，就能开发数十亿参数的Transformer模型了！最高16核CPU+40核GPU的M4 Max芯片首发上车，再搭配神经引擎和ML加速器，使得用笔记本开发大模型成为了可能。并且最高支持128GB统一内存，意味着如果只是拿来运行，可以带动2000亿参数大模型的本地运行。而且此次首发的M4 Max不仅在AI上表现优异，...
大模型本地部署：只需三步，手把手带你在Mac本地部署运行AI大模型
2301_81940605的博客
11-18 3862
本文将详细介绍如何使用Ollama，一个开源项目，在Mac上本地运行大型模型（Win同理）。通过遵循以下步骤，即使是配备了几年前硬件的电脑，也能够顺利完成部署和运行。
【如何在 Mac 上运行大模型】
weixin_46458535的博客
12-25 3436
新手如何在 Mac 电脑上安装环境并且运行大模型
在M4 Mac Mini集群上运行DeepSeek V3 671B
热门推荐
强化学习曾小健
12-30 1万+
博客文章尚未完成，如果您想阅读关于 EXO 如何分割模型的博客文章（与此相关），请查看 第1天，我们解释 EXO 如何将模型分割成分片[1]。对于 LLama 70B 模型，它是密集型的，这意味着我们需要计算 70B 个参数才能生成每个标记。从系统的角度看，专家混合模型本质上是一个大语言模型，每次推理时只使用参数的子集。因此，我们仍需保持所有参数“热“状态，随时可以发送到GPU，但实际计算时只会发送少量参数。对于batch_size=N，每秒计算的参数下降到1/N，但每秒传输到计算设备的参数不会改变。
CAN长字节DM1报文
07-28
CAN长字节DM1报文是指在CAN总线上传输的长度超过8个字节的DM1报文。根据引用\[1\]，当要传输的数据长度超过8个字节时，首先使用TPCM进行广播，广播内容包含即将传输报文的PGN、总的数据包长度等信息，然后使用TP.DT进行数据传输。相邻两个TP.DT之间的时间间隔是50ms到200ms。根据引用\[2\]，当字节数大于8时，将会使用多帧传输参数组。根据引用\[3\]，DM1报文是Diagnostic Message 1, Active Diagnostic Trouble Codes的缩写，用于点亮故障指示灯、红色停机灯等，并周期性播报控制器中处于激活状态的故障码。DM1报文的格式包括各个字节的定义，如故障指示灯、红色停机灯、琥珀色警告指示灯等。因此，CAN长字节DM1报文是指在CAN总线上传输的长度超过8个字节的DM1报文，用于传输更多的故障码信息。 #### 引用[.reference_title] - *1* [车载通信——J1939 DM1](https://blog.csdn.net/weixin_64064747/article/details/130193432)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item] - *2* [J1939广播DM1报文](https://blog.csdn.net/mengdeguodu_/article/details/108173263)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item] - *3* [J1939商用车在线诊断DM1报文](https://blog.csdn.net/traveller93/article/details/120735912)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]
评论 7
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值