UOS 系统 + DeepSeek,打造专属于你的本地化知识宝库

 一、需要安装工具介绍

  • UOS操作系统:统信UOS汲取国内外主流社区技术栈优势,深入技术底层结合国内外设计标准与规范以及各类用户业务应用需求,积极开展技术创新,全面支持国内外主流CPU架构和处理器厂 商,在各种应用环境中,满足强安全、高稳定、高性能、易维护以及泛兼容等要求,是一款构建信息化设施环境的基础软件产品。官网地址
  • Ollama:用来下载、管理、运行大模型工具。官网地址
  • DeepSeek-R1:本次使用的DeepSeek开源模型。官网地址
  • Anything-LLM:开源可免费本地使用功能强大的AI工具。官网地址

二、安装Ollama

  • 使用以下命令在线安装Ollama。本次安装时间较长,需要耐心等待。
 curl -fsSL https://ollama.com/install.sh | sh

  • 安装完成后使用使用以下命令验证安装是否成功。
ollama --version

  • 运行Ollama服务
 ollama  serve    启动ollama服务
 systemctl restart ollama 重启ollama服务
 ollama list  查看ollama管理的模型列表
 ollama show  deepseek-r1:7b 显示模型信息
 ollama run  deepseek-r1:7b   运行模型
 ollama pull  deepseek-r1:7b  拉取模型

本次作者使用的deepseek-r1:7b进行安装演示,如果需要其他版本可以在ollama官网查看

  • 通过Ollama下载管理DeepSeek-R1模型
  ollama   run    deepseek-r1:7b

三、安装Anything-LLM

  • Anything-LLM介绍

AnythingLLM  是一款一体化AI应用程序,您可以安装在任何 Mac、Windows 或 Linux 操作系统上,并以几乎零配置和完全隐私的方式获得本地 LLM、RAG 和代理。通过它可以连接多个LLM模型,构建本地私有的LLM应用,配置界面简单直观。

curl -fsSL https://cdn.anythingllm.com/latest/installer.sh | sh

同时你也可以使用安装包的形式安装。安装包下载地址:Release AnythingLLM 1.4.0 · Mintplex-Labs/anything-llm · GitHub

安装完成后运行Anything-LLM工具界面如下:

  • Anything-LLM配置Ollama服务实现个人专属本地知识库

在Anything-LLM创建新的工作区

通过设置功能配置Ollama服务选择AI模型。

至此在统信UOS系统上部署DeepSeek,搭建个人专属本地模型知识库就结束了,让我们来开始体验下本地模型知识库。

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

奔跑中的小象

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值