LM studio+AnythingLLM+Deepseek无上限模型本地部署知识库-Windows系统

本文主要介绍了在Windows系统中使用LM studio、AnythingLLM来搭建Deepseek本地知识库。

使用LM Studio本地部署DeepSeek步骤移步文章:LM Studio本地部署DeepSeek-Windows系统-CSDN博客

Deepseek R1 无上限模型下载:

通过网盘分享的文件:Deepseek r1
链接: https://pan.baidu.com/s/17oedIO3XhdKfR9kDKU74_Q?pwd=gqbt

提取码: gqbt

1. 配置LM studio

1.1 启动LM studio,进入服务器设置,开启1234服务监听,加载模型

1.2 命令行输入以下命令,可看到LM studio的1234端口已开启 

netstat -ano | findstr 1234

 

2. 下载安装anythingllm

https://anythingllm.com

2.1 启动angthingllm,点击设置,配置LLM首选项为“LM studio”

2.2 配置Embedder为你的模型

2.3 配置语言

2.4  按图中顺序新建工作区,配置聊天模型,点击保存

 2.5 在工作区上传文件到对应工作区的知识库

 2.6 将文件移到工作区 

2.7 保存  

 2.8  将所有上传的文件应用到工作区

2.9  可以在工作区聊天框开始聊天,你的所有提问DS都会关联相对应的知识库进行回答   

### LMStudio 本地知识库概述 LMStudio 是一款用于管理和部署大型语言模型的应用程序,提供了便捷的方式让用户能够在本地环境中构建和管理自己的知识库。通过简便的安装流程和支持多种配置选项,使得用户可以轻松创建个性化的应用环境[^1]。 ### 安装指南 为了成功安装 LMStudio 并设置本地知识库,需遵循官方文档中给出的具体指导: - **操作系统兼容性**:确认目标机器的操作系统版本满足最低要求; - **依赖项准备**:按照说明预先安装必要的软件包和其他依赖组件; - **下载并执行安装文件**:从官方网站获取最新稳定版安装包,并依照提示完成整个安装过程; ```bash # 假设为Linux环境下操作命令示例 sudo apt-get update && sudo apt-get install -y dependencies-listed-in-documentation wget https://example.com/download/lmstudio-installer.deb sudo dpkg -i lmstudio-installer.deb ``` ### 配置步骤 一旦安装完毕,则可通过图形界面或命令行工具来进行进一步的个性化配置工作: - 启动应用程序后进入初始向导页面,根据实际需求选择合适的模板来初始化项目结构; - 对于高级用户而言,在`config.yaml`等配置文件内调整参数可实现更精细控制功能特性; ```yaml # config.yaml 示例片段 database: type: "sqlite" path: "./data/my_knowledge_base.db" model: name: "default_model_name" version: "v0.1" ``` ### 使用教程 利用 LMStudio 创建和维护本地知识库涉及以下几个方面的工作流: - 数据导入/更新机制允许定期同步外部数据源至内部存储层; - 提供直观易用的内容编辑器帮助整理条目分类体系; - 支持多模态查询接口设计以便更好地服务于下游应用场景; ### 故障排查技巧 当遇到问题时,建议采取如下措施快速定位原因并解决问题: - 查看日志记录以了解错误发生的上下文信息; - 参考常见问题解答部分寻找相似案例解决方案; - 加入开发者论坛分享具体症状寻求社区成员的帮助;
评论 6
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值