Linux 服务器部署deepseek

把手教你在linux服务器部署deepseek,打造专属自己的数据库知识库

正文开始

4d9d99a000cb2717d6b71581a69380f1.png

第一步:安装Ollama

打开官方网址:https://ollama.com/download/linux
下载Ollama linux版本
7f5caf4ce65f2940cbcb669aa8cb9874.png
复制命令到linux操作系统执行

[root@postgresql ~]# curl -fsSL https://ollama.com/install.sh | sh

23dc89347f34c40e3b1a613776f2be99.png

在Service中增加下面两行
 
  1. [root@localhost ~]# vi /etc/systemd/system/ollama.service

  2. Environment="OLLAMA_HOST=0.0.0.0"

  3. Environment="OLLAMA_ORIGINS=*"

ffff10f54c0772777d639011db72eb78.png

然后重启ollama服务
 
  1. [root@localhost ~]#systemctl daemon-reload

  2. [root@localhost ~]#systemctl restart ollama

验证服务是否开启,11434是核心端口,必须开启。

[root@localhost ~]# ss -anlp|grep 11434

039dd40e8176d64af69502308ac8503b.png 登录验证
浏览器直接访问192.168.47.136:11434
fa8149da3ae69624fcddda5225a6e5b5.png
出现Ollama is running,即正常。

第二步:部署Deepseek R1模型

还是在ollama官网上,点击Models,选择deepseek-r1,不同版本对应的体积大小不同,体积越大模型越精细化,只需要复制命令即可,我这里选择7b。
09c7fbbab8a68c6bc73425fd0959b6cb.png
10b96aead7cae5dcc15ec9ccd3b27150.png

[root@postgresql ~]#ollama run deepseek-r1:7b

84d0dc50963b41ab70eb9c93ae1eb2e6.png

[root@localhost ~]# ollama list

d337cae16225f922b1afd4beb200f685.png

交互式聊天模式:

[root@localhost ~]#ollama run deepseek-r1

d454d58d5a6cadc22d719fe10bc6f8e4.png

第三步:配置可视化界面

安装docker

 
  1. [root@localhost yum.repos.d]#wget http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo

  2.  [root@localhostyum.repos.d]#yum install docker-ce-20.10.9-3.el7 docker-ce-cli-20.10.9-3.el7 containerd.io

  3. [root@localhost yum.repos.d]#systemctl start docker

  4. [root@localhost yum.repos.d]#systemctl status docker

  5. [root@localhost yum.repos.d]# docker --version

  6. [root@localhost yum.repos.d]#docker info

[root@postgresql yum.repos.d]# docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=http://192.168.47.136:11434 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

6d03110dc45c552e99973bd79a7dbd69.png

访问控制台:

http://192.168.47.136:3000

f845219174ec2180603b351fc7fbb116.png

edbd59b2bb82ccb715ed0caa3b40f3f4.png

30779dc8703ca5a7c0751d666b92e936.png
866be852ae04ae2e2c86eaca5b9d8d17.png
1e0a99dcab596951572e8b225db57bf6.png
可以进行专属知识库的建立
ca7cbbc8b4bdfcf9dfb355e66e3717ef.png拖动上传文件至该区域即可,大家根据自己的需要进行文件的上传。
70f2b06fcb0eab05b4efe3b6ce874b45.png

到这里,我们就完成的在linux服务器部署deepseek,并使用webui界面友好的展示。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值