obsidian中使用ollama部署llama3,实现本地对话

Wang Guo

已于 2024-05-09 15:40:23 修改

阅读量3k

点赞数 4

分类专栏：经验文章标签： obsidian copilot llama3 ollama 人工智能

于 2024-05-09 15:35:26 首次发布

本文链接：https://blog.csdn.net/King_key/article/details/138616358

版权

经验专栏收录该内容

16 篇文章

订阅专栏

文章首发于：https://wangguo.site/Blog/2024/Q2/2024-05-09/

1、ollama安装使用

1.1、ollama

Get up and running with large language models locally.

在这里插入图片描述

1.2、支持的模型列表

在这里插入图片描述

1.3、下载安装

在这里插入图片描述

1.4、使用（基于终端操作）

1.4.1、下载模型(以llama3为例)

ollama pull llama3 #llama3默认是8B的模型

下载需要等待一段时间，同时也需要科学上网

1.4.2、使用模型

ollama run llama3

在这里插入图片描述

2、obsidian中使用ollama

2.1、obsidian插件copilot

插件市场搜索copilot进行安装并启用
在这里插入图片描述

2.2、copilot中配置ollama

打开copilot的配置文件进行设置

2.2.1、default model修改为ollama

在这里插入图片描述

2.2.2、QA Setting设置为ollama-nomic-embed-text

需要先用ollama pull命令下载模型

ollama pull ollama-nomic-embed-text

在这里插入图片描述

2.2.3、ollama设置model为llama3

3、obsidian中使用llama3

3.1、执行ollama serve

此时需要关闭之前打开的ollama，重新用命令打开ollama

OLLAMA_ORIGINS=app://obsidian.md* ollama serve

3.2、obsidian使用

打开copilot对话窗口
设置为ollama
使用

3.3、copilot中除了对话功能还有Long Note QA、Vault QA功能，可以继续探索使用一下

在这里插入图片描述

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

Wang Guo

关注关注

4
点赞
踩
6

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

Obsidian + Smart Connection + Ollama：让本地LLM大语言模型成为你的智能笔记助手

iCloudEnd的博客

07-28

1282

由于学校、公司或其他外部环境的限制，很多人无法使用 OpenRouter、OpenAI 等外部闭源大模型。最近很多人都在问如何在 Obsidian 的 Smart Connection 插件中使用自己部署的 Ollama 模型。为了满足大家的需求，我们专门制作了这篇教程，教大家如何在 Obsidian 的 Smart Connection 插件中无缝集成 Ollama 模型。希望这篇指南能给你一些启发，让你的笔记系统更加智能高效！

本地部署AI大模型 —— Ollama文档中文翻译

Dianajr的博客

06-09

5248

Ollama支持在Modelfile中导入GGUF模型:创建一个名为Modelfile的文件, 使用带有要导入的模型的本地文件路径的“FROM”指令。在 Ollama 里创建模型运行模型从Ollama 库下载的大模型可以用prompt 自定义. 例如, 要自定义llama3创建Modelfile# 将参数设置为1[越高越有创意，越低越连贯]# 设置系统信息SYSTEM """""">>> hiHello!有关更多示例，请参阅examples目录。有关使用模型文件的更多信息，请参阅。

参与评论您还未登录，请先登录后发表或查看评论

obsidian+ollama 搭建本地大预言模型

细节处有神明的博客

04-03

4258

如今大模型泛滥的情况下，本地大开源大模型的优势是个人隐私及配合个人知识库搭建自己的模型，用 obsidian 这款插件的用途不是很大，接下来还是要深入学习如何用 streamlit 结合本地知识库搭建大预言模型。Obsidian - 本地AI助手 - 哔哩哔哩 (bilibili.com)

ollama+Obsidian, 自定义构建本地AI 写作助理,不用联网

m0_59235245的博客

06-29

6003

ollama+obisidian 能够读取obsidian 的所有文档,直接在 obsidian 实现本地知识库问答和大模型对话对于像我这样的用 obsidian 作为写作工具的文字工作者来说, 这个组合实在是很有用,我在写文章时就下载了 ollama,并用 ollama 下载了 4 位量化的 llama 70B 模型, 只占 30G 内存,运行速度是很快的ollama 配置直接去 ollama 官方就有下载教程, 先把 app 下载了,在在终端运行。

本地部署DeepSeek大模型

最新发布

weixin_40001694的博客

02-04

8021

最近DeepSeek大火，本文将尝试将其部署至本地，大致部署路径：准备电脑-部署Ollama-部署DeepSeek R1模型硬件型号CPUi5-13490F内存32GB显卡AMD RX6800 （16GB显存）硬盘1TB SSD提示：以下是本篇文章正文内容，下面案例可供参考。

ollama本地部署llama3（window系统）

Baker的博客

05-14

2329

ollama只是一个大模型的服务工具，并非大模型本体，所以只是安装ollama也并不能使用大模型，所以接下来要通过ollama下载大模型，需要注意的是，llama3分为多个版本，如果你的电脑性能一般还是安装llama3:8B的版本，除非是很好的电脑，内存64以上，GPU 3090的那种才考虑安装llama3:70B,下面是根据电脑配置推荐的安装版本。下面开始下载和安装，下载的话可以到ollama的官网去下载，有window，macOS，liunx三个版本，如下图就是下载完成，可以直接在这里提问了，

大模型llm(1)：Ollama部署llama3学习入门llm

黄规速博客:学如逆水行舟，不进则退

05-06

5337

Llama 3 是一个自回归语言模型（an auto-regressive language），它使用优化的 transformer 架构。调整后的版本使用监督微调（SFT）和带有人类反馈的强化学习（RLHF），以符合人类对有用性和安全性的偏好。大型模型则达到400B，仍在训练中，目标是实现多模态、多语言的功能，预计效果将与GPT 4/GPT 4V相当。

Obsidian+Ollama+llama3.1，自定义构建本地AI助理，无需联网

智能运维及数据中台探索

08-15

2145

在人工智能（AI）领域， AI PC让我们重新定义智能办公和信息管理。但是，要真正实现这一愿景，我们必须考虑多个关键因素，包括隐私保护、数据安全等。今天将带大家一起看下如何使用OBSIDIAN+OLLAMA+LLAMA3.1-8b搭建一个简易而高效的个人知识库及工作智能助理，从而让日常办公、学习、生活更加高效便捷。

Ollama部署中文版llama3模型

python123456_的博客

05-30

2335

从Llama3发布到现在，Github 以及 HuggingFace 平台上，可以看到已经陆陆续续地看到很多将其进行微调了一些这样的项目。目前效果最好的中文微调版是 HuggingFace 社区的 zhouzr/Llama3-8B-Chinese-Chat-GGUF 模型，该模型采用 firefly-train-1.1M、moss-003-sft-data、school_math_0.25M、弱智吧数据集。更多关于Llama中文项目的信息，可以看下这个Llama中文社区。

windows环境Ollama部署Llama3中文并调优

u012864987的专栏

05-20

6173

地址：https://ollama.com/downloadgithub地址： https://github.com/ollama/ollama直接运行exe程序安装。安装完成后，可以在右下角看到ollama图标环境变量控制：OLLAMA_MODELS 配置模型下载部署的目录, 示例： D:\modelsOLLAMA_HOST 服务地址端口，示例： 0.0.0.0:11434ollama运行命令见 ollama --help 查看帮助。

基于OBSIDIAN+Ollama+llama3.1构建个人智能助理

wangjye99的博客

08-07

1441

在人工智能（AI）领域， AI PC让我们重新定义智能办公和信息管理。但是，要真正实现这一愿景，我们必须考虑多个关键因素，包括隐私保护、数据安全等。在本文中，我们将使用OBSIDIAN+OLLAMA+llama 3.1-8b来搭建一个简易而高效的个人知识及工作智能助理，从而让您的日常办公、生活、学习更加便捷。

LLAMA3.1 8B 本地部署并配合Obsidian建立本地AI知识管理系统

杜衡老师的自留地

07-30

887

目前，LLAMA3.1模型分为8B、70B、405B三个版本，其中70B和405B对于显存的要求均已超过了一般家用电脑的配置(或者换个说法，用一张4090也是带不起来的)，所以运行8B即可。LLAMA3.1 8B的性能约相当于ChatGPT3.5。经过我的测试4080、2080、intel ultra 9 185H（无独立显卡，其能力约相当于1060）都是可以带得动8B模型的，当然显卡越好，响应的速度越快。

使用 ollama 部署最新的Llama 3 70B本地模型

热门推荐

yu101994的博客

04-22

1万+

ollama 大部分代码基于 go 开发，大家可以多多探索。进入 ollama 下载页面，选择自己的系统版本的下载并安装即可。直接使用 run 命令 + 模型名字就可以运行模型。被其他的开发程序占用，可以根据自己的实际情况调整端口。，用于搜索已收录的模型库。win10输入path或者环境变量。

Ollama 本地部署大模型 | Windows本地部署 Llama3.1 大模型

静愚AGI

07-23

2714

Ollama是一个开源的大型语言模型部署工具，它可以帮助用户快速在本地部署运行大模型。类似于Docker一样，仅仅用几行命令就可以运行一个大模型。”，之后重启ollama，我把下载模型的目录设置在了"D:\ollama"目录下。由于Ollama在下载模型时，会自动下载到C盘，因此需要设置下载目录。Ollama有一套用于运行和管理模型的 REST API。这样就基本完成了Ollama在本地部署大模型。在安装模型之前需要到模型仓库中获取模型信息。剩下的就是通过三方工具开发自己的大模型应用。

使用 ollama 部署本地模型，零基础入门到精通，非常详细收藏我这一篇就够了

m0_65555479的博客

08-15

2920

在本地启动并运行大型语言模型。运行Llama 2，Code Llama和其他模型。自定义并创建您自己的。

使用Ollama本地部署 Llama3大模型！最简单的方法，无需GPU也能使用

撸啊撸的博客

05-12

5150

开源大模型领域当前最强的无疑是 LLaMA 3！Meta 这次不仅免费公布了两个性能强悍的大模型（8B 和 70B），还计划发布一个可以与 GPT-4 对打的 400B 模型。今天，我们将介绍一种简单易懂的本地部署方法，非常适合新手！如果想深度使用Llama3，还是准备一个好的GPU环境来测试，CPU环境下还是很吃力。

Win10（CPU）+ Anaconda3 + python3.9安装pytorch

AAI666666的博客

01-14

1887

Win10（CPU）+ Anaconda3 + python3.9安装pytorch

linux，ubuntu，使用ollama本地部署大模型llama3，模型通用，简易快速安装

weixin_43651674的博客

08-23

1241

在拥有了一条4090显卡后，那冗余的性能让你不得不去想着办法整花活，于是就想着部署个llama3，于是发现了ollama这个新大陆，废话不多说，直接上操作，对于系统的安装和4090驱动的安装可以查看简易教程：U盘安装Ubuntu24.04，乌邦图，UltralISOlinux系统，ubuntu安装英伟达NVIDIA4090显卡驱动。

Obsidian+llama3：终于搭建了自己的知识库

谢彦的技术博客

05-19

2766

Obsidian 的 Smart Connections，超出了我原本的预期，于是结合新模型非常方便地搭建了我的个人知识库。

obsidian安装ollama

01-17

### 如何在 Obsidian 中安装 Ollama 插件要在 Obsidian 中安装并配置 Ollama 插件，需遵循特定步骤以确保顺利集成。一旦完成这些操作，便能够在 Obsidian 中利用 Ollama 提供的强大文本处理能力[^1]。 #### 获取插件前往 `obsidian-ollama` 项目的官方仓库获取最新版本的插件文件。该项目托管于 GitCode 平台，可通过访问提供的链接下载所需资源[^2]。 ```bash # 使用Git克隆项目到本地 git clone https://gitcode.com/gh_mirrors/ob/obsidian-ollama.git ``` #### 安装过程对于 Windows 和 Mac 用户来说，Ollama 的安装流程相对简便，具体细节可查阅相关文档了解不同操作系统上的安装指导[^5]。安装完毕后，按照常规方式启用新插件： 1. 打开 Obsidian 应用程序； 2. 进入设置界面中的社区插件部分； 3. 将解压后的插件文件夹放置于 `.obsidian/plugins` 文件夹内； 4. 返回应用重启生效； #### 配置与使用成功加载插件之后，依据详细的使用教程学习如何调用 Ollama 功能来增强笔记管理体验。这不仅限于简单的文字编辑，还包括更复杂的自然语言理解任务等高级特性[^3]。针对那些受限于网络环境而无法接入云端服务的情况，也可以考虑将自定义训练好的 Ollama 模型导入至本地运行的 Obsidian 实例中，从而实现在离线状态下享受智能化写作辅助工具带来的便利[^4]。