macMini16G内存M4芯片 DeepSeek-r1本地化部署+chatbox三步走

已于 2025-02-11 08:02:57 修改
阅读量1.4k 收藏 6
点赞数 1
文章标签： DeepSeek mac
于 2025-02-11 07:34:48 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/limaning/article/details/145549636
版权

        DeepSeek本地化部署，有利于保护隐私，调用也方便。

        大体来说分为3步：安装ollama，获取deepseekR1模型，chatbox设置并调用。

1.下载ollama客户端，并安装。
https://ollama.com/download

2.获取deepseekR1模型

Ollama官网，点击Models，选择deepseek-r1，我用的是8b的模型，复制之后，粘贴在终端，等待下载。我这个大约用了16个小时吧。这个过程最好晚上弄，早晨醒来也做好了。（后来改了14b，早晨下载的，3分钟，分析时间约1分钟）

3.使用chatbox，并设置

在chatbox官网下载客户端：

最低0.47元/天 解锁文章
在M4 Mac Mini集群上运行DeepSeek V3 671B
强化学习曾小健
12-30 1万+
博客文章尚未完成，如果您想阅读关于 EXO 如何分割模型的博客文章（与此相关），请查看 第1天，我们解释 EXO 如何将模型分割成分片[1]。对于 LLama 70B 模型，它是密集型的，这意味着我们需要计算 70B 个参数才能生成每个标记。从系统的角度看，专家混合模型本质上是一个大语言模型，每次推理时只使用参数的子集。因此，我们仍需保持所有参数“热“状态，随时可以发送到GPU，但实际计算时只会发送少量参数。对于batch_size=N，每秒计算的参数下降到1/N，但每秒传输到计算设备的参数不会改变。
在m4芯片的macbook pro上部署并推理deepseek-r1到底能有多快呢
全世界的博客
01-29 1万+
最近deepseek的战绩席卷全球，成为开源第一大模型。我正好有一台m4pro芯片的macbook pro，让我们看看如何在mbp上跑deepseek-r1,并测试一下速度。首先查看一下电脑配置，我的电脑是24G+512G的m4 pro芯片的macbook。然后看一下deepseek-r1有哪些模型因为内存只有24G，所以32B以上模型是跑不了的,我这次就测试蒸馏后的14B模型。因为看模型报告对qwen2.5蒸馏后的模型性能比qwen2.5本身要好的多，所以也会加入qwen2.5的测试。
在Mac mini上实现本地话部署AI和知识库
Johnny_nass_hu的专栏
01-17 3858
在Macmini上实现本地话部署AI和知识库硬件要求大模型AI，也叫LLM，需要硬件支持，常见的方式有2种：一种是采用英伟达之类支持CUDA库的GPU芯片或者专用AI芯片；第二种是采用苹果M系列芯片架构的支持统一内存架构的硬件；本文主要讲基于苹果M系列的方式，采用的内存建议16M，8M内存也能支持，但支持模型会比较少；除此之外，即使普通的电脑，如果你的内存够大，CPU够快，也是可以运行一些小的模型的，只是速度上会比较慢，CPU占用比较高，具体情况大家可以实际体验一下，例如我用一台T460，Inteli5
在Mac mini M4上部署DeepSeek R1本地大模型
weixin_44626085的博客
02-03 1万+
Web UI 控制端。
M4 Mac mini运行DeepSeek-R1模型
fenglllle的博客
03-01 2065
仅仅是分享体验感受，实际上体验本地的AI模型的门槛是很低的，一般的Intel 核显就行，也需要一定的显存，不过不是特别消耗，如果实在不足那么也可以降低模型的大小，当然蒸馏模型越小失真就越严重，物理定律是不能违背的。另外也可以配置一个UI界面，如果是生产环境就建议部署docker应用，自己本地体验实际上用免费的桌面软件就好了。
在 Mac mini M2 上本地部署 DeepSeek-R1:14B：使用 Ollama 和 Chatbox 的完整指南
技术的学习与积累是个技术活
02-24 2399
通过 Ollama 和 Chatbox，你可以在 Mac mini M2 上轻松部署并使用 DeepSeek-R1:14B 模型。整个过程简单高效，且不需要复杂的配置。无论你是技术新手还是有一定经验的开发者，都可以快速上手并享受本地 AI 模型带来的便利。希望本文能帮助你顺利完成部署，开启智能对话的新体验！如果你在部署过程中遇到任何问题，欢迎随时留言交流。
Ollama+deepseek-r1-1.5b+chatbox本地部署
m0_37651448的博客
02-05 664
1. Ollama+deepseek-R1-1.5B+chatbox本地部署 2. vscode+cline+ollama+deepseek-R1辅助编程
deepseek-R1本地部署（配合Chatbox AI使用篇）
minge0001的博客
02-07 578
打开cmd命令行窗口，粘贴刚刚复制的指令，回车，开始拉取deepseek模型。的也是可以的，拉取完成后，如下，可输入信息同Deepseek对话了。安装后运行Ollama，运行成功后系统托盘有如下Ollama图标。下次运行Deepseek也是使用如上指令，例如，我这里是。拉取完成后，如下，可输入信息同Deepseek对话了。安装并运行完Chatbox AI后，选择使用本地模型。根据自己电脑配置选择合适的版本，例如我这里选择。确定版本后复制后面对应的指令，例如，我这里是。选择配置的 Ollama API。
本地部署DeepSeek-R1（Mac版）
wavelee的博客
02-10 1237
安装Ollama选择你电脑配置合适的DeepSeek-R1版本安装桌面UI程序，方便日常使用。
想在本地部署DeepSeek-R1？本地化部署方案！
02-08 1136
需要注意的是，一般模型文件都比较大，如果遇到网络问题导致下载中断或者超时的话，可以用modelscope手动下载模型文件到.ollama/models目录下，然后再重新执行ollama run命令即可。如果在模型下载过程中遇到中断或超时问题，你可以先手动通过modelscope平台下载模型文件，然后将vLLM服务启动命令中的模型名称替换为本地模型文件所在的路径，以便继续使用已下载的模型文件。然而，由于遭受了来自漂亮国的网络攻击以及国人的热情，官网和API调用的稳定性受到了严重影响，极大地损害了用户体验。
Mac上本地部署DeepSeek并使用Ollama提供API与Chatbox交互
yuanmomoya的博客
02-06 2542
通过本教程，你已经成功部署 DeepSeek 本地模型，并结合 Ollama 和 Chatbox 实现了完整的离线 AI 交互。希望本指南能帮助你轻松上手，体验强大的 AI 聊天能力！
Mac（m1）本地部署deepseek-R1模型
Batac的博客
02-09 778
直接下载软件，下载完成之后，安装即可，安装完成之后，命令行中可出现ollama命令。
MacM4 部署DeepSeek-R1搭建本地知识库（Ollama +AnythingLLM）
denglei的博客
02-27 553
通过AnythingLLM+DeepSeek R1搭建建知识库，实知识在本地，大模型部署在本地，运算在本地，结果在本地。
多台Macmini利用EXO搭建分布式AI集群提高deepseek -r1:14b推理能力方案分享（实测可用）
最新发布
日常记录分享，希望对大家有帮助，如有问题望大家批评指正
03-08 2706
对比之下，一块RTX 4090显卡满载就要450瓦——这电费差距，长期运行成本得高多少！只要设备在网络中的某个位置连接，就可以用来运行模型，使用起来非常简单方便。这就好比把厨房和餐厅打通，厨师（GPU）和传菜员（CPU）再也不用跑来跑去，上菜速度直接翻倍！由图可以看到单台m4 mac的性能大约是28tokens/s，运算速度是8.52TFLOPS（每秒所执行的浮点运算次数）传统显卡（比如NVIDIA RTX 4090）的显存最高只有24GB，而一台顶配Mac Mini能塞下64GB的。
Mac M4 部署 Deepseek Coder 保姆级教程
qq_33376459的博客
01-28 3586
#Deepseek #MacM4 #保姆级本地部署教程。
5 分钟在 Mac 上搭建自己的 deepseek r1智能体
pythonhy的博客
02-14 1094
如今，deepseek 烈火烹油火爆天，有用没用的大家都想看看人工智能到底能干啥。上一次AI 这么出圈，还是 ChatGPT 刚发布的时候。
本地部署DeepSeek教程（Mac版本）
热门推荐
weixin_59685936的博客
02-01 2万+
本地部署DeepSeek教程（Mac版本）
万元服务器运行满血DeepSeek！全网最全低成本部署方案+硬件采购避坑指南！
fufan_LLM的博客
02-24 3302
相比之下，Unsloth提出的动态量化方案会更加综合一些，所谓动态量化的技术，指的是可以围绕模型的不同层，进行不同程度的量化，关键层呢，就量化的少一些，非关键层量化的多一些，最终得到了一组比Q2量化程度更深的模型组，分别是1.58-bit、1.73-bit和2.22-bit模型组。· 确认硬件型号和运行模式：如果是CPU+GPU混合推理，那4代志强CPU推理性能更强，如果是纯GPU推理，需要确认是图形显卡、如A6000，还是推理训练一体显卡，如A100，如果图形显卡，那未来可能无法进行模型训练和模型微调；
DeepSeek-R1本地部署chatbox
02-18
### 如何在本地环境中部署 DeepSeek-R1 聊天机器人 #### 面向非开发者的 Windows 环境下使用 Ollama+Chatbox 实现部署 对于希望快速启动并运行 DeepSeek-R1 的普通用户来说，在 Windows 上通过 Ollama 和 Chatbox 来部署是一个简单易行的选择。 安装完成后，需下载特定 HTML 文件 `chat_stream_wechat.html` 并保存至本地磁盘。此文件作为前端界面用于交互展示[^2]。当打开该页面时，会自动连接到已配置好的本地 API 服务器来获取响应数据流。 为了使上述流程正常工作，需要确保 Ollama 服务正在监听指定端口 (默认为 11434)，并且可以通过 HTTP 协议访问。这通常意味着要调整防火墙设置允许外部请求进入，并确认没有其他应用程序占用同一端口号。 一旦准备工作就绪，只需将下载得到的 HTML 文件直接拖放到任意现代网页浏览器窗口内即可开始体验基于 DeepSeek-R1 模型驱动的人机对话功能。 ```html <!-- 示例：如何加载HTML文件 --> <!DOCTYPE html> <html lang="en"> <head> <meta charset="UTF-8"> <title>DeepSeek R1 Chat</title> </head> <body> <!-- 此处省略具体实现细节 --> </body> </html> ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

limaning

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值