本文记录了Windows11 + Ollama + AnythingLLM,3步快速本地部署DeepSeek-R1模型,支持联网搜索、应用本地知识库和创建Agent功能。
前言
DeepSeek-R1 知识库相关
更新时间:截至 2025年2月,当前版本的 R1 基于 2024年7月之前的数据训练。
知识库更新频率:DeepSeek-R1 的官方知识库通常 每6-12个月更新一次,具体取决于模型版本迭代计划。增量更新机制:对于重要领域(如医疗指南、政策法规),可能通过 在线微调(Online Fine-tuning) 进行局部知识更新,无需完全重新训练模型。
知识库数据来源
公开网络数据:来自互联网的广泛文本资源(如书籍、论文、新闻、论坛等),涵盖 2023年12月之前 的信息。受训练数据时效性限制,缺乏 2024年及之后的实时事件(如最新科技进展、时事新闻)。
结构化数据库:来自开放学术数据集(如 arXiv、PubMed)和企业授权资料(如医学、金融领域的非敏感数据)。
用户交互数据:在合规及隐私保护前提下,部分匿名化用户与模型的交互数据可能用于优化知识表示。
知识覆盖范围
优势领域:科学技术:数学、计算机科学、工程学等学科的教程和论文。通用知识:历史、地理、文学等基础百科内容。
局限性:时效性问题:模型无法知晓训练截止日后的新事件(如 2024年后的选举结果、突发灾难)。专业深度:在高度专业化领域(如量子计算前沿进展)可能存在知识盲区。
本地部署的DeepSeek-R1可能存在知识更新不及时以及缺少某个专业领域知识的不足,作为补充,可在本地部署基础上开启联网,也可以实现Agent。
DeepSeek-R1安装分3步:
Step 1: Ollama安装
Ollama 是本地部署大模型的神器,可以在官方文档或 GitHub 上获取安装包。
或者直接从镜像网站下载:Windows:Ollama 官方镜像
下载较慢,可使用迅雷等下载工具加速。
Step 2: Ollama加载Deepseek-R1模型
Windows下打开命令提示符窗口,根据本地机器配置下载相应模型:
ollama pull deepseek-r1:14b
Step 3:安装AnythingLLM,从Ollama加载Deepseek-R1模型,联网搜索,加载本地知识库
AnythingLLM官网下载及安装:
打开从 LLM首选项中,可以选择Ollama拉取的deepseek-r1:14b模型。
设置联网搜索:首先申请一个Bing或者Google的搜索引擎API Key,google API秘钥申请,记录ID和API Key,填写到 代理技能-Web Serarch。即可打开联网搜索。
新建工作区,上传本地知识。
设置Agent:
在聊天界面输入 @agent
+ 提示词,启动 Agent 会话。
参考资料
https://zhuanlan.zhihu.com/p/18056846015
AnythingLLM上传文档 报错:Error: 1 documents failed to add. fetch failed_anythingllm fetch failed-CSDN博客
大模型工具AnythingLLM添加文件报错“Error:1 documents failed to add”_anythingllm无法导入文件-CSDN博客