Obsidian+llama3：终于搭建了自己的知识库

1 引言

这两周，价格更亲民的 gpt-4o 和性能显著提升的 llama3 的推出，使许多东西发生了变化。就像古代人在收割麦子时，扭头看见一收割机。想到自己的那些微小的优化，与这些新技术相比，又算得了什么呢？也会开始怀疑自己的方向和价值。

优化过程中又发现了一个神仙插件：Obsidian 的 Smart Connections，超出了我原本的预期，于是结合新模型非常方便地搭建了我的个人知识库。之前老是炫着玩儿现，在是真能解决具体问题了。

具体优势如下：

• 操作简便，无需自己建立向量数据库或进行向量转换

• 可针对特定文档提问

• 具有基于向量的模糊搜索能力

• 可通过 ollama 调用本地模型，使用它不产生任何费用（除了电费）

2 思考过程

2.1 搜索

很早就觉得 Obsidian 搜索实在太费劲了。因为我的内容比较多，查找非常费时；还必须输入完全一致的关键词；如果查找一个常见词，则会返回大量不排序的文档。虽然后来使用的 ominisearch 插件用机器学习算法来建立索引，搜索效果有所改善，但与基于词义的大模型搜索相比，仍然相差很远。

2.2 知识库

一直想做一个个人知识库，RAG，想要那种可以随身携带的知识库；把所有东西都以干净的文本形式整合到一起；方便检索；在笔记之间建立联系，半自动产出。

我的大部分文档都存储在 obsidian 里，主要是 md 格式。这些文档已经有一定的分类和标签，所以从理论上讲，已经具备了必要的数据。但是还面临一些问题：

• 需要将文本转换为词向量，方法很多，细节很多，上手容易做好难。

• 需要自己搭建和维护向量库存储信息，存储和检索方法众多，更新迭代速度很快。

• 如果需要随身携带，可能还需要部署，细节也比较多，比较麻烦。

如果做成产品，Obsidian 的用户群体相对较小。如果仅为自己使用，需要投入大量时间，成本过高。之前又没找到现成的工具，这两天朋友推荐了 Smart Connection，它基本上可以解决上述的多数问题，而且一会儿就搭起来了。

2.3 基于 Obsidian 做 RAG

使用 Obsidian 创建个人知识库比构建常规的 RAG 更为简单：

• 内容基本都是自己手敲的 markdown 纯文本，所以不存在格式转换问题。

• 由于 Obsidian 中主要存储的是个人笔记，数据量相对较小，因此对嵌入和搜索的要求并不高。

• 根据搜索到的资源组织生成答案。这个功能类似于阅读理解，与大模型内部的知识储备关系不大，主要依赖于模型的语言和认知能力。我觉得 gpt-3.5 已经足够满足这个需求，这次试了 llama3，效果也可以。

3 Obsidian 插件 Smart Connections

本次具体实现使用了 Obsidian 插件 Smart Connections + ollama(llama3)/gpt-4o 的组合。

3.1 信息

• 项目地址：https://github.com/brianpetro/obsidian-smart-connections

• 热度：github 1.9K star，Obsidian 官方插件下载量：16W+

• 代码：用 Javascript 实现，目前 3000 行左右

安装后，开始自动生成 Embedding，右侧栏出现操作面板。

3.2 支持的模型

不得不赞一下作者手速，昨天 GPT-4o 刚刚发布，今天就支持了，帮大家省了钱（GPT-4o 的速度是 GPT4 的两倍，费用却只有一半）。并且只要接口与 openai 的模型相同，均可使用，哪个性价比高就用哪个。目前支持模型如下：

3.3 问题与解答

3.3.1 本地 ollama 用不了

很可能是设置出了问题，主要需要确保 path 设置正确，请参考如下设置。如果问题仍然存在，可以使用 Ctrl+Shift+i 打开调试界面，查看日志信息。

3.4 功能介绍

3.4.1 搜索/动态代码块

提供两种查找方式：按文档查找和按块查找。可以在笔记中加入如下代码，返回的文档列表会直接显示。

 ```smart-connections ``待搜索的关键字或问题`` ```

3.4.2 关联

通过 Smart View，可显示与我当前正在处理的笔记相关的笔记，以供参考和建立新的连接。右侧栏将列出所有相关的笔记，并按语义相似度排序。

3.4.3 问答

可能由于右侧栏仅占屏幕的 1/3，对于普通的问答，用着还是有点不方便。更推荐针对个人的知识库进行提问：

• 运用关键词，来从笔记中找寻答案，例如：I, me, my, mine, we, us, our, ours

• 基于本地笔记 xxx，可以这样提问：Based on my notes…

• 如需对当前文档进行总结，可以这样提问：`Summaries [[文件名]]

• 常用的提示词都在聊天输入框的灰色示例

推荐一个有趣的玩法：问问它 “Who am I？”。它会根据你的笔记，进行多方面的总结，比如你的兴趣爱好，个人生活，工作，理财习惯，以及个人习惯等等（只要你笔记里包含这些内容）。关键是回答的还有点靠谱。由此可推断，它并不仅仅对单个文件进行了简单的嵌入，还对你的文档进行了分类，抽象和概述，这……细思极恐

4 总结

在这波更新之后，我们可以看到，本地大模型已经基本达到了平均人类智力的水平。通过 Smart Connections，不仅建立了个人知识库，还学习了简单 RAG 的设计思路和具体实现方式。它的交互设计也挺自然的，而且学习成本也不高，很赞！

👉AI大模型学习路线汇总👈

大模型学习路线图，整体分为7个大的阶段：（全套教程文末领取哈）

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

👉大模型视频和PDF合集👈

观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

👉获取方式：

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓