大家好,小机又来说AI了。
前言
DeepSeek R1是目前最火的大模型,近来有很多朋友询问我怎么搭建DeepSeek 的本地智能知识库,在这里我分享一种使用DeepSeek + AnythingLLM工具来构建本地智能知识库的方法。
一,安装Ollama
打开Ollama官方网址:https://ollama.com/download
然后选择当前系统的版本,这里我已windows为例。
在下载完后,直接双击你下载的exe文件,然后全部点Next:
安装完成后,直接在开始菜单搜索cmd,打开
验证安装,输入ollama
安装完成后终端输入: allama出现下方提示即为安装成功
二,安装DeepSeek R1
具体可以根据自己的电脑配置选择自己安装的模型大小:
这里我以deepseek-r1:1.5b版本为案例,输入安装命令:
ollama run deepseek-r1:1.5b
出现以下提示(success)即为安装完成:
此时不要退出命令行
三,安装AnythingLLM
AnythingLLM是什么?
AnythingLLM 是一个开源的企业级文档聊天机器人解决方案,由 Mintplex Labs Inc. 开发。它支持多种文档格式(如 PDF、TXT、DOCX 等),并能将文档内容转化为大语言模型(LLM)可理解的上下文信息,从而实现智能对话。
该工具还具备多用户支持和权限管理功能,支持多种部署方式(包括本地和云部署),并提供开发者友好的 API。
此外,它还支持多种 LLM 和向量数据库,能够高效处理大型文档,帮助企业构建私有知识库。
下载地址:https://anythingllm.com/desktop
下载安装:
安装完成后会看到这个页面:
然后我们可以开始创建工作空间,点击左下角扳手,配置大模型:
然后如下配置,配置模型地址http://127.0.0.1:11434
选择DeepSeekR1,token长度4096:
点击右上角的保持更改选项:
然后你能看到下面的保存成功。
在配置完模型后就可以开始上传知识库文档:
选择本地文档或者网页链接:
然后就可以基于知识库问答了。
这里我提供的数据是txt文档。
然后就可以对AI进行询问啦:
技术支持
-
遇到问题可私信作者或直接加入交流群。
如果大家有AI相关的问题,这里也附上小机的联系方式VX:AI-study,欢迎围观小机的AI学习。
此外,如果有AI相关的问题,也欢迎进AI交流群一起交流。
小机的愿景是成为 AI 提示词与AI大模型的布道者,带领 更多 小白入门 AI,让更多的人在已经到来的 AI 时代不掉队,不被 AI 淘汰。
我也期望能遇到更多优秀的自媒体创作者,期待与大家一起进步!
如果您对AI大模型充满好奇,想要了解更多关于它的信息,不妨联系我进行交流,我将为你带来更多的大模型相关知识。我是小机学AI大模型,一个专注于输出 AI+ 提示词和AI + 大模型,AI编程内容的学者,关注我一起进步。
对了,如果您有AI方面的问题,或者有对AI其他方面感兴趣的地方,也欢迎通过下面的链接加我好友一起交流,我会送您一份领价值499元的AI资料,帮助您入门AI。
原文链接: