基于AnythingLLM的本地知识库：最简单的AI应用落地

背景：

• 在人工智能迅猛发展的当下，众多开发者和企业都致力于将AI技术实际应用于各类场景。AnythingLLM为实现简单且高效的AI应用落地提供了一种途径，尤其在构建本地知识库方面独具优势。本地知识库犹如组织或个人积累的知识宝藏。对企业而言，它涵盖业务流程、产品信息、客户数据等关键要素；对个人来说，则可能包含学习笔记、研究资料等。传统本地知识库存在检索不便、知识关联度挖掘不足等问题，而AnythingLLM能让本地知识库“焕发生机”。

AnythingLLM搭建本地知识库中的流程
如果没有安装anythingLLM可以区看看我前面两篇文章，关于这个anythingLLM的安装和本地大模型deepseek的基础文章。

• 1.打开anythingLLM并创建工作区
  

• 2.修改工作区设置
  

记得拉到最底下，保存。

• 3.导入文件，可以是pdf，表格，甚至链接。
  
  

我们这里用表格为例

选择电脑本地的文件就行，选择后会再my documents上面显示你的文件，这个文件还没有加入你的工作区，点击move to workspace

移动到工作区后会有一个嵌入按钮，首次加载时间可能会比较久，具体看你的文件类型和大小，

如果提示正在更新请等更新完成，更新完成知识库里面的文件会变成如下状态，可以移除

到这里久可以关掉这个窗口，选择default来进入对话框，
到这里，我们的文件算是喂给ai了，接下来就是问ai关于知识库里面的内容了。

看到ai已经回答了，我们来检查一下

看到这里，发现ai回答的并不理想，因为我用的是笔记本的蒸馏模型并且参数只有8b，如果电脑算力够，上个32b的模型效果会好很多，我们现在改为api的方式是谁，其他配置不变

故意输入错误不存在的数据

测试成功。

这个官网的api是671B满血版的方式可以找到，如果本地能用上高参数的模型，效果也是一样的，本地知识库搭建还是很吃硬件的，另外anythingLLM是本地程序，如果想要共享，这个还可以通过api的方式，分享出去，请参考API密钥自行使用应用程序对接。如下图。

优势与价值

• 数据安全与隐私
  本地知识库存于本地环境，相较于外部云服务，极大地保障了数据安全与隐私。这对数据敏感的企业和个人至关重要，例如金融机构的内部风险评估资料、医疗行业的患者病历等，都可在本地知识库安全存储与查询，无需担忧数据泄露风险。
• 定制化
  基于本地知识库构建的AI应用可根据自身需求高度定制。无论是特定行业的专业知识体系，还是个人独特的知识管理风格，都能在AnythingLLM框架下得以满足，从而使本地知识库能更好地服务不同用户群体，提高知识利用效率。
• 成本效益
  与需要高额订阅费用的大型云AI服务不同，基于AnythingLLM构建本地知识库的AI应用在成本上优势明显。它只需利用本地计算资源，无需支付大量云服务费用，对预算有限的中小企业和个人开发者而言是经济实惠的选择。