如何搭建个人AI知识库?
分享一下我的整体思路。我觉得方法都是次要的,因为每个人的需求、情况都不同——唯有思路可以借鉴。
出发点和对应解法:
第一,信息过载,无法逐一细细消化。所以需要AI辅助,通过总结、提炼等方式帮助我们先快速、大致掌握。
第二,人脑不适合用来记东西,而应该用来做创造性的工作。所以需要“第二大脑 / Second Brain”来存储,需要AI根据语义进行检索(所有工具都有关键词检索,再加上语义检索就齐全了)。
第三,记笔记是对信息做预处理。记笔记的目的,是增援未来的自己。所以需要把信息层层筛选,最后挑选出来的、值得记下来的内容,用自己的话来记,而非复制别人的表述。
基于上面这三点,我设计了两套子系统,就像我在视频里介绍的:
外部信息处理。以AnythingLLM + 大模型为核心。
就像屠宰场一样,我把日常看到的、觉得有价值的信息都放到AnythingLLM里,用大模型这把“刀”,对所有信息作“肢解”,让我明白它们的“全身构造”,以及有哪些“部位”是有价值的。
这些有价值的内容,我会手动放到笔记里去——这一步只能自己来,因为如果没过自己的脑子、没亲手敲字的话,就一定不会成为自己的东西。
当然,针对特定信息,我还会用一些别的工具。比如AI相关的论文,我肯定会用txyz.ai来处理,这个网站 / 工具很专业,非常适合。
笔记生成。以Obsidian + 各种插件为核心。
就像视频里说的那样,我按照PAFP的逻辑建了四个文件夹,然后在里头建子文件夹,放对应的笔记。
Obsidian对笔记之间的逻辑关联做得很好。文件夹是一个关联逻辑。每条笔记还可以打上标签,这样一来,就可以跨过文件夹再去建立一个关联逻辑。更牛逼的是,一条笔记还可以链接到另一条笔记,这又是一种知识图谱的关联逻辑。通过这三层关联,我们就可以把笔记系统性地整理起来,变成一张网,而非一个个的散点。
在网的基础上,我们无论是查询还是搜索,都会有效得多。
我就是按照以上思路和方法,持续地把外部信息源源不断转化成我自己的东西。这种逐渐积累、内化的感觉,是非常让人欣喜的。
Ollama和LM Studio有哪些区别?
Ollama和LM Studio都属于在本地运行开源大模型的工具。直观上的区别在于,Ollama通过命令,LM Studio通过图形化界面。因此对新手来说,LM Studio会更亲切、更容易上手。
在后端把大模型跑起来还不够,还需要有前端的交互界面。
LM Studio在这方面做得很好。就像我在视频里说的那样,它的集成度非常高,从模型搜索和下载,到加载和对话,全都打包在一起了。
而Ollama是在终端里进行对话的,看起来特别简陋,于是有了Open WebUI这样的项目,给Ollama一个更加现代化的界面,类似ChatGPT的外观。不仅如此,Open WebUI还自带RAG,可以用它搭建知识库,以及具有账号管理的功能,方便多人使用。
上边介绍的,都属于Ollama和LM Studio的【客户端】模式。它俩还有【服务器】模式。简单来说就是,只是充当大模型在本地运行的工具/容器,然后打开一个通道/端口,给到其它应用。就像发电机一样,接了条电线出来,给到各种电器使用。
如何提升AnythingLLM精确度?
理解RAG的原理、流程,才好做优化,不管是自己手搓还是用现成工具。
RAG = 文档预处理 + Query理解 + 文档检索 + LLM生成
如果是用AnythingLLM之类的现成工具,在设置方面有几点要注意:
第一,嵌入模型的语言支持。比如,资料中英文都有的话,可以用Cohere Embed v3 - Multilingual,支持多语种。
第二,嵌入模型的Context Window。比如,Cohere Embed v3 - Multilingual是512 tokens。用Ollama、LM Studio的话,我记得会要求填写Max embedding chunk length,注意别瞎填。
第三,文本切块的尺寸(Chunk Size)和重叠(Overlap)。
尺寸要考虑两点:一是别超过嵌入模型的上限;二是资料的类型。如果资料都是一些短句、片段,比如单条的简短笔记,那么尺寸小一些可以避免一个切块中包含太多条不相干的内容,干扰大模型的理解。如果资料是成篇的文章,有比较强的连贯逻辑,尺寸就尽量大一些,否则把一个连贯段落切开就牛头不对马嘴了。
如何学习大模型 AI ?
由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。
但是具体到个人,只能说是:
“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。
这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
😝有需要的小伙伴,可以Vx扫描下方二维码免费领取🆓
![](https://img-blog.csdnimg.cn/img_convert/6a10a6e88bf690952906d94d9fa01018.jpeg)
👉1.大模型入门学习思维导图👈
要学习一门新的技术,作为新手一定要先学习成长路线图,方向不对,努力白费。
对于从来没有接触过AI大模型的同学,我们帮你准备了详细的学习成长路线图&学习规划。可以说是最科学最系统的学习路线,大家跟着这个大的方向学习准没问题。(全套教程文末领取哈)
👉2.AGI大模型配套视频👈
很多朋友都不喜欢晦涩的文字,我也为大家准备了视频教程,每个章节都是当前板块的精华浓缩。
👉3.大模型实际应用报告合集👈
这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。(全套教程文末领取哈)
👉4.大模型落地应用案例PPT👈
光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。(全套教程文末领取哈)
👉5.大模型经典学习电子书👈
随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。
👉6.大模型面试题&答案👈
截至目前大模型已经超过200个,在大模型纵横的时代,不仅大模型技术越来越卷,就连大模型相关的岗位和面试也开始越来越卷了。为了让大家更容易上车大模型算法赛道,我总结了大模型常考的面试题。
这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费
】
😝有需要的小伙伴,可以Vx扫描下方二维码免费领取🆓
![](https://img-blog.csdnimg.cn/img_convert/6a10a6e88bf690952906d94d9fa01018.jpeg)