macOS上运行 Ollama & AnythingLLM，打造自己的桌面智能体/知识库。

最新推荐文章于 2024-06-02 12:33:57 发布
最新推荐文章于 2024-06-02 12:33:57 发布
阅读量235 收藏 2
点赞数 8
文章标签： macos llama
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/huachangzai/article/details/138605812
版权

下载安装Ollama可以参考前序文章。

macOS 本地部署体验Llama3-CSDN博客

如果你不想通过命令行来使用Ollama，可以搭配一些界面来用。比如AnythingLLM。

比如参考 深化知识管理：Ollama & AnythingLLM 打造专属全新的本地知识库管理系统

但是我发现，如果只是体验一下，没有必要使用doker这么麻烦的方式使用。可以直接进入官网

官网 ： AnythingLLM | The ultimate AI business intelligence tool

进入到下载地址：Download AnythingLLM for Desktop

已经开发了多种系统的桌面端，直接下载使用即可。

比如我是macOs系统，apple芯片，就选了第一个安装。

其他使用步骤与docker没区别，直接参考 深化知识管理：Ollama & AnythingLLM 打造专属全新的本地知识库管理系统

和

AnythingLLM：私人ChatGPT，构建专属知识库，本地代码库问答助手

石广林谈技术
关注
  • 8
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
用于在macOS上运行Windows应用和游戏的工具
08-17
用于在macOS上运行Windows应用和游戏的工具，提供了与macOS完美融合的熟悉界面，能够轻松创建和管理容器，带有调试和性能分析的功能。使用原生SwiftUI构建的干净且易于使用的Wine图形封装程序，基于CrossOver 22.1.1...
免费的桌面虚拟机：一个快速创建和运行优化的Windows、macOS和Linux桌面虚拟机
04-13
一个快速创建和运行优化的Windows、macOS和Linux桌面虚拟机。该项目提供了便捷的方式，使用户能够在本地环境中模拟不同操作系统的运行。通过QuickEmu，用户可以灵活选择虚拟机配置，实现快速且高效的桌面虚拟化体验...
LocalAi，Ollama+AnythingLLM搭建部署本地大模型AI知识库，汉化版本
xiexikk的博客
04-19 2438
AnythingLLM 是一个全栈应用程序，您可以使用商业现成的 LLM 或流行的开源 LLM 和 vectorDB 解决方案来构建私有 ChatGPT，无需任何妥协，您可以在本地运行，也可以远程托管并能够智能聊天以及您提供的任何文件。
LLMs之AnythingLLM：anything-llm的简介、安装和使用方法、案例应用之详细攻略
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
04-24 3187
​ LLMs之AnythingLLM：anything-llm的简介、安装和使用方法、案例应用之详细攻略 目录 anything-llm的简介 anything-llm的安装和使用方法 anything-llm的案例应用 anything-llm的简介 AnythingLLM是一款您正在寻找的一体化人工智能应用程序。与您的文档进行聊天，使用AI代理，超级可配置，多用户，并且无需烦人的设置。 AnythingLLM是一个全栈应用程序，可以使用商用或开源的LLM/嵌入器/
基于Ollama+AnythingLLM搭建本地私有知识库系统
sheex2012的博客
04-30 4384
本文介绍了LLM在落地应用中的不足，并引入了RAG框架和原理，以及RAG在私有知识库建设中的重要作用。并以Ollama和AnythingLLM为实现手段，构建了并测试了本地知识库，测试结果表明，有了RAG的加持，LLM的回答结果更加贴切，有效。
基于Ollama+AnythingLLM轻松打造本地大模型知识库
qq_44373268的博客
05-03 1520
Ollama是一个开源的大型语言模型服务工具，它帮助用户快速在本地运行大模型。通过简单的安装指令，用户可以执行一条命令就在本地运行开源大型语言模型，如Llama 2和最新开源的Llama 3。Ollama极大地简化了在Docker容器内部署和管理LLM的过程，使得用户能够快速地在本地运行大型语言模型。AnythingLLM 是 Mintplex Labs Inc. 开发的一款可以与任何内容聊天的私人 ChatGPT，是高效、可定制、开源的企业级文档聊天机器人解决方案。
Ollama + (Anythingllm / Open WebUI / MaxKB)搭建本地大模型
yong472727322的博客
05-20 926
重命名镜像（如果是通过代理下载的） docker tag ghcr.dockerproxy.com/open-webui/open-webui:main ghcr.io/open-webui/open-webui:main。3. 在[Service]下添加OLLAMA_MODELS环境变量，目录需要配置权限给【ollama用户及用户组】1. 进入配置默认目录：cd /etc/systemd/system/# 删除代理镜像（如果是通过代理下载的）2、（可选）使用代理拉取镜像。1、下载Ollama。
Mac本地部署LLama3+AnythingLLM+Docker方式的本地知识库
2401_83692861的博客
05-03 903
就可以访问anythingLLM了。3.安装Enchanted。1.拉取镜像，终端执行。3.配置ollama。
Ollama--本地大语言模型LLM运行专家
tigerhhzz的博客
03-05 3961
Ollama是一个强大的运行AI模型的工具；Ollama支持多种开源模型，您可以通过访问ollama.ai/library来查看所有可用的模型，并使用ollama pull 来下载指定模型。此外，如果您想创建自定义模型，可以通过创建Modelfile并使用ollama create -f ./Modelfile来创建，并通过ollama run 来运行您的模型。Ollama 以其易用性、灵活性和强大的功能，为本地运行大型语言模型提供了一个理想的解决方案。
Ollama
伊织的Notebook
03-05 2731
安装使用 Ollama 客户端 Model library 自定义一个模型 从 GGUF 导入 从 PyTorch 或 Safetensors 导入 自定义一个 prompt CLI Reference 创建一个模型 拉取 model 删除一个 model 复制模型 多行输入 多模态模型 传递prompt 作为参数 列出你电脑上的模型 开始 Ollama 构建 运行本地 builds REST API 生成响应 和一个模型对话 使用 Ollama Python Library 安装 使用 流式响应 REST
OLLAMA：如何像云端一样运行本地大语言模型
songgz的专栏
03-16 5837
您是否曾发现自己被云端语言模型的网络所缠绕，渴望获得更本地化、更具成本效益的解决方案？那么，您的探索到此结束。欢迎来到 OLLAMA 的世界，这个平台将彻底改变我们与大型语言模型 (LLM) 的交互方式，让我们可以在本地运行这些模型。我们将深入探讨 OLLAMA 的复杂性，探索其功能、设置过程以及它如何改变你的项目。无论您是 Python 开发人员、网络开发爱好者，还是喜欢摆弄语言模型的人，本文都是您的一站式资源。OLLAMA 是一个尖端平台，旨在本地运行开源大型语言模型。
macos-wallpaper：在macOS上管理桌面墙纸
02-04
macos-wallpaper：在macOS上管理桌面墙纸
MacOS解锁工具：旨在在支持和不支持的 Mac 上运行和解锁 macOS 中的功能
04-23
一个基于 Python 的项目，围绕 Acidanthera 的 OpenCorePkg 和 Lilu 构建，旨在在支持和不支持的 Mac 上运行和解锁 macOS 中的功能。该项目的主要目标是为不再得到苹果官方支持的 Mac 电脑注入新的生命力，使用户...
Audition 2024 for Mac/Win：音频录制与编辑的卓越之选
2401_82627223的博客
05-28 424
Audition 2024是一款集高品质录音、精细音频编辑和强大兼容性于一身的专业音频处理软件。
【Mac】关于Mac的github配置和本地项目上传
2301_80467753的博客
05-29 1107
本文主要介绍了Mac的git环境配置，github仓库的创建，本地文件上传到github仓库以及常用的git命令的相关内容，希望对你有所帮助～
Rockchip芯片 写SN,IMEI,Mac等 写attenstation key 写Remote Key Provisioning
chenhao0568的专栏
05-30 632
1、设备先写完号，重启再次进入loader写入google attenstation key 同时获取设备的公钥RKP CSR存在PC上。loader 进入方式：开机时候按住“音量+”或者 adb reboot loader 命令，在该模式下面写号，设备必须是已。关机下 按住“音量+” 插入USB线 进入loader 方式，在该模式下面写号，设备必须是已经有烧写过固件。用连续读写，写完sn号重新插入设备会切换到maskrom方式，无法再次写号，能防呆。将启用安全启动的设备标记为测试设备。
Mac硬件设备系统环境的升级/更新 macOS
最新发布
yanhaijunyan的博客
06-02 189
点击进入对应的大版本描述说明页查看相关的兼容性描述，根据描述确定当前的电脑设备最高可采用哪个大版本系统(Sonoma/Ventura/Monterey/Big Sur/Catalina等)1.大版本(升级)判断(比如：我买的这台电脑设备最高支持Monterey)2.小版本(更新)判断。
macOS上运行linux的官方虚拟机
05-25
macOS 上可以使用官方提供的虚拟机软件 VirtualBox 来运行 Linux。以下是步骤： 1. 首先下载并安装 VirtualBox。 2. 下载你想要运行的 Linux 发行版的 ISO 镜像文件。 3. 打开 VirtualBox，点击“新建”按钮创建一个新的虚拟机。 4. 在创建虚拟机的过程中，选择 Linux 的发行版和版本，并设置虚拟机的内存大小、磁盘大小等参数。 5. 完成虚拟机的创建后，选择虚拟机并点击“启动”按钮。 6. 在虚拟机启动过程中，选择刚才下载的 Linux ISO 镜像文件作为安装媒介。 7. 按照安装向导完成 Linux 的安装。 8. 安装完成后，就可以在虚拟机中运行 Linux 了。 需要注意的是，在虚拟机中运行 Linux 可能会有一定的性能损失，尤其是在内存较小的情况下。同时，还需要为虚拟机分配足够的磁盘空间，以便存储所需的软件和数据。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值