Windows系统本地部署DeepSeek-R1+本地知识库+联网搜索+Agent功能

本文记录了Windows11 + Ollama + AnythingLLM,3步快速本地部署DeepSeek-R1模型,支持联网搜索、应用本地知识库和创建Agent功能。

前言

DeepSeek-R1 知识库相关

更新时间:截至 2025年2月,当前版本的 R1 基于 2024年7月之前的数据训练。

知识库更新频率:DeepSeek-R1 的官方知识库通常 每6-12个月更新一次,具体取决于模型版本迭代计划。增量更新机制:对于重要领域(如医疗指南、政策法规),可能通过 在线微调(Online Fine-tuning) 进行局部知识更新,无需完全重新训练模型。

知识库数据来源

公开网络数据:来自互联网的广泛文本资源(如书籍、论文、新闻、论坛等),涵盖 2023年12月之前 的信息。受训练数据时效性限制,缺乏 2024年及之后的实时事件(如最新科技进展、时事新闻)。 

结构化数据库:来自开放学术数据集(如 arXiv、PubMed)和企业授权资料(如医学、金融领域的非敏感数据)。

用户交互数据:在合规及隐私保护前提下,部分匿名化用户与模型的交互数据可能用于优化知识表示。

知识覆盖范围

优势领域:科学技术:数学、计算机科学、工程学等学科的教程和论文。通用知识:历史、地理、文学等基础百科内容。

局限性:时效性问题:模型无法知晓训练截止日后的新事件(如 2024年后的选举结果、突发灾难)。专业深度:在高度专业化领域(如量子计算前沿进展)可能存在知识盲区。

本地部署的DeepSeek-R1可能存在知识更新不及时以及缺少某个专业领域知识的不足,作为补充,可在本地部署基础上开启联网,也可以实现Agent。

DeepSeek-R1安装分3步:

Step 1: Ollama安装

Ollama 是本地部署大模型的神器,可以在官方文档或 GitHub 上获取安装包。

或者直接从镜像网站下载:Windows:Ollama 官方镜像

下载较慢,可使用迅雷等下载工具加速。

Step 2: Ollama加载Deepseek-R1模型

Windows下打开命令提示符窗口,根据本地机器配置下载相应模型:

ollama pull deepseek-r1:14b

Step 3:安装AnythingLLM,从Ollama加载Deepseek-R1模型,联网搜索,加载本地知识库

AnythingLLM官网下载及安装: 

打开从 LLM首选项中,可以选择Ollama拉取的deepseek-r1:14b模型。


设置联网搜索:首先申请一个Bing或者Google的搜索引擎API Key,google API秘钥申请,记录ID和API Key,填写到 代理技能-Web Serarch。即可打开联网搜索。

新建工作区,上传本地知识。

设置Agent:

 在聊天界面输入 @agent + 提示词,启动 Agent 会话。


参考资料

https://zhuanlan.zhihu.com/p/18056846015


AnythingLLM上传文档 报错:Error: 1 documents failed to add. fetch failed_anythingllm fetch failed-CSDN博客

大模型工具AnythingLLM添加文件报错“Error:1 documents failed to add”_anythingllm无法导入文件-CSDN博客

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Blockbuster_drug

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值