手把手教你用macOS + Ollama + Enchanted，本地部署最新 Llama3，保姆级教程！

原创 于 2025-06-05 11:53:56 发布 · 1k 阅读 · 29 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#macos #人工智能 #fastapi #前端 #机器人 #服务器

4月19日，Meta开源了大模型Llama3，并在多项指标上超越了现有最先进的大模型。Ollama社区也同步新增 Llama3 的支持。接下来，我们将在MacBook Pro上部署Llama3，让大家在本地体验最强开源大模型。

Screenshot 2024-04-20 at 12.06.19.png

硬件设置，MacBook Pro (2019款)，Intel CPU，8 Core，16GB内存。

具体步骤：

  • 安装Ollama
  • 下载Llama3
  • 安装Enchanted

安装Ollama

Ollama大家都比较熟悉了，安装非常方便，有macOS独立安装包。下载，解压，安装。

下载链接：https://ollama.com/download

Screenshot 2024-04-20 at 13.49.54.png

安装完成后，会提示命令行：ollama run llama2，可以拷贝一下。但是注意要下载llama3，而不是llama2.

下载Llama3

进入 Terminal，执行（把llama2改为llama3）:ollama run llama3。下载需要等待一段时间，具体取决于网络速度。

Terminal
复制代码
$ ollama run llama3
pulling manifest 
pulling 00e1317cbf74... 100% ▕██████████████████████████████████████████████████████████████████████████████████████▏ 4.7 GB                         
pulling 4fa551d4f938... 100% ▕██████████████████████████████████████████████████████████████████████████████████████▏  12 KB                         
pulling 8ab4849b038c... 100% ▕██████████████████████████████████████████████████████████████████████████████████████▏  254 B                         
pulling c0aac7c7f00d... 100% ▕██████████████████████████████████████████████████████████████████████████████████████▏  128 B                         
pulling db46ef36ef0b... 100% ▕██████████████████████████████████████████████████████████████████████████████████████▏  483 B                         
verifying sha256 digest 
writing manifest 
removing any unused layers 
success 
>>>

下载完成后，直接进入llama3状态，提示本文：Send a message (/? for help)。可以自行提问并获得回复。

Terminal
复制代码
>>> who are you
I am LLaMA, an AI assistant developed by Meta AI that can understand and respond to human input in a conversational manner. I'm not a human, but a computer program designed to simulate conversation and answer questions to the best of my ability based on my training data. 

I was trained using a massive dataset of text from various sources, including books, articles, and websites. This training enables me to understand and respond to natural language input, such as your question about who I am!

In simple terms, I'm like a very smart chatbot that can have a conversation with you!

>>>

macOS 状态栏上有图标提示llama3在后台运行。

Screenshot 2024-04-20 at 14.22.49.png

安装Enchanted

Enchanted 是开源并兼容 Ollama 的应用程序，允许您在iOS生态系统（macOS、iOS、Watch、Vision Pro）中的所有设备上获得未经过滤、安全、私密和多模态的体验。

下载链接：https://github.com/AugustDev/enchanted

页面点击：Download on the App Store 图标，进入macOS的 App Store 下载安装。

68747470733a2f2f692e6962622e636f2f3757587433715a2f646f776e6c6f61642e706e67.png

安装完成后，启动界面非常简洁大气：

Screenshot 2024-04-20 at 14.17.47.png

之前llama3已经在后台运行了，所以可以直接在Enchanted里提问并获得回答。

Screenshot 2024-04-20 at 14.20.37.png

讨论

这个解决方案可以让我们在个人笔记本电脑上完美体验llama3，无需科学上网即可轻松使用最强的开源大模型。而且，在其他平台（Windows和Linux）上也应该可以轻松部署，具体的步骤可以参考各应用的官方网站，或者查找其他的介绍文章。

如何学习AI大模型 ？

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。【保证100%免费】🆓

CSDN粉丝独家福利

这份完整版的 AI 大模型学习资料已经上传CSDN，朋友们如果需要可以扫描下方二维码&点击下方CSDN官方认证链接免费领取 【保证100%免费】

读者福利： 👉👉CSDN大礼包：《最新AI大模型学习资源包》免费分享 👈👈

（👆👆👆安全链接，放心点击）

对于0基础小白入门：

如果你是零基础小白，想快速入门大模型是可以考虑的。

一方面是学习时间相对较短，学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

👉1.大模型入门学习思维导图👈

要学习一门新的技术，作为新手一定要先学习成长路线图，方向不对，努力白费。

对于从来没有接触过AI大模型的同学，我们帮你准备了详细的学习成长路线图&学习规划。可以说是最科学最系统的学习路线，大家跟着这个大的方向学习准没问题。（全套教程文末领取哈）
在这里插入图片描述

👉2.AGI大模型配套视频👈

很多朋友都不喜欢晦涩的文字，我也为大家准备了视频教程，每个章节都是当前板块的精华浓缩。
在这里插入图片描述

在这里插入图片描述

👉3.大模型实际应用报告合集👈

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。（全套教程文末领取哈）

在这里插入图片描述

👉4.大模型实战项目&项目源码👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战项目来学习。（全套教程文末领取哈）
在这里插入图片描述

👉5.大模型经典学习电子书👈

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。（全套教程文末领取哈）
在这里插入图片描述

👉6.大模型面试题&答案👈

截至目前大模型已经超过200个，在大模型纵横的时代，不仅大模型技术越来越卷，就连大模型相关的岗位和面试也开始越来越卷了。为了让大家更容易上车大模型算法赛道，我总结了大模型常考的面试题。（全套教程文末领取哈）
在这里插入图片描述

为什么分享这些资料?

只要你是真心想学AI大模型，我这份资料就可以无偿分享给你学习，我国在这方面的相关人才比较紧缺，大模型行业确实也需要更多的有志之士加入进来，我也真心希望帮助大家学好这门技术，如果日后有什么学习上的问题，欢迎找我交流，有技术上面的问题，我是很愿意去帮助大家的！

这些资料真的有用吗?

这份资料由我和鲁为民博士共同整理，鲁为民博士先后获得了北京清华大学学士和美国加州理工学院博士学位，在包括IEEE Transactions等学术期刊和诸多国际会议上发表了超过50篇学术论文、取得了多项美国和中国发明专利，同时还斩获了吴文俊人工智能科学技术奖。目前我正在和鲁博士共同进行人工智能的研究。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目，无论你是小白还是有些技术基础的，这份资料都绝对能帮助你提升薪资待遇，转行大模型岗位。

在这里插入图片描述
在这里插入图片描述

CSDN粉丝独家福利

这份完整版的 AI 大模型学习资料已经上传CSDN，朋友们如果需要可以扫描下方二维码&点击下方CSDN官方认证链接免费领取 【保证100%免费】

读者福利： 👉👉CSDN大礼包：《最新AI大模型学习资源包》免费分享 👈👈

（👆👆👆安全链接，放心点击）
【DeepSeek应用实践】手把手教程：用 AnythingLLM + Ollama + DeepSeek-R1 搭建本地企业知识库
寻道AI，探索AI无限可能！
03-28 1627
在众多的技术方案中，我们选择了 AnythingLLM、Ollama 和 DeepSeek-R1 这一组合来搭建本地知识库。Ollama 作为一个轻量级的本地化大语言模型部署工具，支持多种模型，易于安装和使用，能够快速在本地运行强大的语言模型。DeepSeek-R1 是一个专为知识库问答设计的检索增强生成（RAG）模型，它结合了检索和生成的优势，能够快速从知识库中检索相关信息并生成精准答案。而 AnythingLLM 则是一个用户友好的界面工具，可以方便地连接 Ollama 和 DeepSeek-R1
保姆级教程 本地部署 deepseek + ollama + open-webui + cuda + cudnn
我hate吃西红柿
02-11 1774
本地部署deepseek-r1，基于ollama + webui，并开启cuda + cudnn 加速运算，我电脑显卡是3060 12G，没显卡的可以跳过cuda + cudnn的安装。
用大模型实现PPT可视化几种思路
liangwqi的博客
06-07 7236
他们大致的思路是：用户内容如何呈现应是需要对用户内容理解选择合适的呈现方式，生成内容可视呈现计划大纲，然后对每部分的内容细化充分的分析挖掘ppt工具的属性来做细粒度优化呈现。充分的理解PPT这种工具的可视化呈现优势，对每部分的素材生成合适的呈现效果，比如：大小、颜色、动效，前后颜色搭配，颜色比对，图表…对于如何根据用户输入的信息做信息的整理组织，然后把整理组织信息作排版，生成合适的PPt呈现不是重点介绍对象。这种实现方式已经对ppt信息可视化做了一层建模，会对用户的输入做理解，重新组合生成合适的呈现方式。
0代码，5分钟，搭建出企业级文档处理MCP Agent
最新发布
z551646的博客
05-27 638
文档质量决定了大模型理解的上限。当你正在构建知识库或者搭建文档审核相关的Agent，可以考虑将TextIn MCP Server嵌入到你的搭建工作流中，成为你的文档处理引擎。
[1308]pdf转markdown
周小董
09-28 2173
无论是文档、表格、图像、视频、音频文件，还是网页，OmniParse 都能对其进行处理，使其变得干净、结构化，并为诸如 RAG（Retrieval-Augmented Generation）和细调等AI应用做好准备。它主要用于高效地解析 PDF 文档中的排版、数学公式、表格、图片、图表等内容，并将这些内容转换为结构化的 Markdown 格式。参考：https://blog.csdn.net/weixin_40425640/article/details/140765933。
AI大模型自动生成PowerPoint（PPT）
XP1990的专栏
08-14 5980
eg，请用Markdown语言生成一个大纲，主题是：给小白用户的第一课，如何快速的学好Python。1，使用现有开源大模型工具，生成markdown语言文件（我这里使用chatGLM2-6B）选个导入-Markdown-导入创建。（没有可注册，注册邀请码。效果挺好，可以体验一下。
PDF文档完整转换为Markdown文档
百态老人的博客
05-18 1077
如需进一步优化转换效果，可结合正则表达式清理冗余标签，或使用Markdown语法增强工具（如Typora）调整排版。• 操作流程：访问Aspose官网 → 选择PDF转MD → 上传文件 → 下载结果。• 操作流程：访问官网 → 上传PDF → 自动转换 → 下载Markdown文件。• 适用场景：简历、技术文档等简单内容转换，支持中文排版。• 特点：无需注册，支持50+格式转换，自动清除数据。• 特点：保留基础表格和列表，适合企业级快速处理。• 特点：速度快，但无法解析表格和图片。
Ollama+Open WebUI本地部署Llama3 8b（附踩坑细节）
热门推荐
qq_53795212的博客
06-14 5万+
open-webui 是一款可扩展的、功能丰富的用户友好型自托管 Web 界面，旨在完全离线运行。此安装方法使用将 Open WebUI 与 Ollama 捆绑在一起的单个容器映像，从而允许通过单个命令进行简化设置。下载完之后默认安装在C盘，安装在C盘麻烦最少可以直接运行，也可以通过软链接保存到其他盘，但可能会出现一系列问题。到这里 docker desktop 的配置就大功告成了，可以开始下载 open-webui 容器了。添加代理，这样本地找不到的容器会自动到网上去找，添加后点 Apply。
零门槛本地部署！手把手教你用Ollama+Chatbox玩转DeepSeek大模型
修己xj的博客
02-09 1920
Ollama 是一款开源的本地大模型部署工具，旨在让用户能够轻松在个人电脑上运行各种开源大型语言模型（如 Llama、Mistral、DeepSeek 等）。它支持跨平台操作（Windows/macOS/Linux），提供一键式安装和模型管理，优化了内存和计算资源的使用，即使是普通配置的设备也能流畅运行。通过 Ollama，开发者、研究者和爱好者可以快速部署私有化 AI 应用，无需依赖云端服务，同时享受高效、安全的本地 AI 体验。
DeepSeek+Ollama+Cherry Studio 实现本地部署搭建知识库
weixin_43705315的博客
03-10 1013
本文介绍了如何通过DeepSeek+Ollama+Cherry Studio 实现本地部署搭建知识库。
一招教你如何用大模型帮你生成一份精美的PPT
初夏0811的博客
02-15 5149
以上就很容易的生成了markdown文本了,当然你可以继续调优，让大模型重新帮你生成更准确的markdown，也可以在markdown文本的基础上修改文字。当然，以上是我的一个简单的示例，实际工作中，你需要尽量详细的描述你的需求，这样大模型才能更准确的帮你生成切合你业务场景的markdown文本。这里可以选择一系列的工具，因为我们需要生成PPT，所以这里我们选PPT助手，当然，如果你有其他需求，你也可以研究一下其他的工具助手。4) 待大模型回复，生成markdown样式后，点击下方的一键生成PPT即可。
一个好用的小工具 | 将PDF转换为Markdown格式
Warmer_Sweeter
10-11 4507
点击下方卡片，关注“小白玩转Python”公众号我使用过多种在线工具将PDF文档转换为Markdown格式，我觉得最好用的是Marker（可以通过链接访问：https://github.com/VikParuchuri/marker）。除了基本的Markdown转换，它还可以格式化表格，将大多数方程式转换为LaTeX格式，提取并存储图片。以下是我如何使用Marker提取PDF内容并将其转换为有效的...
自动创作PPT 利用提示词和大模型自动创建ppt
weixin_37763484的博客
10-21 2258
自动撰写ppt大纲，自动撰写内容，并生成好看的ppt。
一键搞定！用代码轻松将PDF转为Markdown，高效又便捷！
2502_91125984的博客
03-13 1351
在日常工作和学习中，PDF文件是我们经常接触的文档格式，但编辑和修改PDF却并不方便。如果你需要将PDF转换为更易编辑的Markdown格式，这篇文章将为你提供一个简单高效的解决方案！
大模型生成PPT？其基本思路是？
u014361476的博客
12-21 3858
以上内容仅仅是个人的简单见解，具有不对之处，可指出交流。
三分钟！教会你用DeepSeek搭建个人知识库
yizhen91y的博客
02-06 2897
三分钟！教会你用DeepSeek搭建个人知识库
手把手带你搞懂Deepseek-V3 低成本知识库，收藏这一篇就够了！！
2401_85325397的博客
01-20 1万+
1 可以通过 api 添加各种模型 2 上传文档就能本地新建知识库 3 各种 AI 工具直接打开 4 知识库配合 deepseek 3 ，加上 COT 提示词 效果不错 5 还能画图 6 有简单 Artifacts 功能，直接渲染代码 7 可以多个模型一起回答问题，就是样式是直接铺下来的。
PDF转Markdown文件
倾锋落颖花
08-19 1万+
PDF文件直接转Markdown也可以使用Obsidian加Markdown插件直接转，但是弊端是，图片资源都没有了，需要自己截图或者获取pdf图片源文件。这里建议从pdf转docx。
Dify+ollama+DeepSeek本地部署
03-25
<think>嗯，用户想知道如何在本地部署Dify、Ollama和DeepSeek的服务。首先，我需要回顾一下之前提供的引用内容。引用[1]提到了从GitHub拉取RAGFlow的源码，但用户的问题是关于Dify、Ollama和DeepSeek的，所以可能需要重点看引用[2]和[3]。引用[2]提到了安装DockerDesk，安装Ollama和DeepSeek模型，然后安装Dify，而不是OpenWebUI。引用[3]则讨论了Dify在Docker部署时遇到的安装界面卡住问题，建议使用自动化脚本的方法，以及配置LLM和系统推理模型的步骤。 用户的需求应该是想一步步的本地部署教程，包括安装这些组件的顺序、配置方法，可能遇到的问题如何解决。需要先安装Ollama，然后下载DeepSeek模型，接着安装Docker，再部署Dify。过程中可能会遇到Dify安装时的502错误，这时候需要参考引用[3]提到的使用自动化脚本的方法。另外，配置Dify时要连接到Ollama和DeepSeek模型，可能需要修改配置文件或者通过Dify的界面设置。 接下来要组织步骤，确保逻辑清晰。首先安装Ollama，下载模型，然后安装Docker，再部署Dify。注意在部署Dify时可能遇到的问题，比如卡在安装界面，这时候需要使用自动化脚本。最后配置Dify的模型设置，确保能调用本地部署的DeepSeek模型。 需要检查每个步骤的命令是否正确，比如Ollama的安装命令，Docker的安装步骤，以及Dify的Docker Compose配置。同时，提醒用户注意端口冲突，模型下载的版本，以及如何验证服务是否正常运行。可能还需要提到如何访问Dify的Web界面，进行后续的配置。 另外，用户可能关心这些组件之间的协作关系，比如Dify如何通过Ollama来调用DeepSeek模型，所以需要解释清楚各部分的作用。比如Ollama作为本地的大模型服务，Dify作为应用开发框架，通过接口连接到Ollama。DeepSeek模型则是具体的模型文件，需要正确下载并加载到Ollama中。 最后，生成相关问题时要围绕部署过程中可能遇到的更多问题，优化方法，以及应用场景。比如如何解决端口冲突，如何优化模型性能，或者这些工具组合起来可以做什么样的应用。</think>### Dify+Ollama+DeepSeek本地部署教程 #### 一、环境准备 1. **操作系统要求**：Linux/Windows/macOS（推荐Ubuntu 22.04 LTS） 2. **硬件配置**：建议16GB内存+8核CPU+NVIDIA GPU（非必须，但提升模型推理速度） 3. **依赖工具安装**： - Docker Desktop（社区版即可） - Git版本控制工具 - Python 3.9+环境 #### 二、分步部署流程 **(一) 部署Ollama服务** ```bash # 1. 下载Ollama curl -fsSL https://ollama.com/install.sh | sh # 2. 启动服务 ollama serve # 3. 下载DeepSeek模型（以7B版本为例） ollama pull deepseek-ai/deepseek-7b[^2] ``` **(二) 部署Dify** ```bash # 1. 克隆仓库（注意替换分支版本） git clone -b v0.3.3 https://github.com/langgenius/dify.git # 2. 进入docker目录 cd dify/docker # 3. 启动容器（自动创建网络和卷） docker-compose up -d[^3] # 4. 验证服务状态 docker ps | grep dify ``` **(三) 关键配置对接** 1. **访问Dify控制台**：`http://localhost:80` 2. **模型配置路径**： - 导航至 **设置 > 模型供应商** - 选择 Ollama 类型 - 填写API端点：`http://[OLLAMA_IP]:11434` 3. **系统推理模型绑定**： ```yaml # dify 配置文件修改示例 model_endpoints: ollama: api_base: "http://ollama:11434" models: - deepseek-7b ``` #### 三、验证部署 1. **测试模型响应**： ```python import requests response = requests.post("http://localhost:11434/api/generate", json={"model": "deepseek-7b", "prompt":"你好"}) print(response.text) ``` 2. **Dify应用测试**： - 创建新应用 > 选择对话型应用 - 在"模型"选项卡中选择已配置的DeepSeek模型 #### 四、常见问题解决 | 问题现象 | 解决方案 | |---------|----------| | 安装界面卡在step请求 | 使用`./scripts/install.sh`自动化脚本[^3] | | 模型加载失败 | 检查Ollama服务状态：`ollama list` | | API连接超时 | 验证Docker网络：`docker network inspect dify_default` |
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值