基于中央处理器的DeepSeek容器镜像构建及实践应用——以KeyarchOS操作系统为例

最新推荐文章于 2025-06-19 16:53:05 发布
原创 最新推荐文章于 2025-06-19 16:53:05 发布 · 988 阅读 · 30 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#deepseek #人工智能

在KeyarchOS（KOS）操作系统上使用容器技术部署Deepseek应用，能够有效实现环境隔离、快速部署和资源优化。本文详细讲解如何从零开始构建基于CPU的Deepseek容器镜像，并演示其使用方法。本方案适用于KOS 5.8及以上版本，兼容CentOS生态体系。

整体架构：

软硬件环境

本次使用的软硬件环境如下:

机型：NF5466G7

操作系统：Keyarchos5.8 SP2

内存：256G

磁盘空间：4T

Ollama： 0.5.7

1 镜像制作

本文的镜像制作是基于KOS最新版KOS5.8-SP2 U1的docker镜像进行的。

在基础docker镜像中进行大模型的配置，之后导出新的docker镜像文件，供后续使用。

Docker镜像下载链接：http://kos.ieisystem.com/kos-isos/kos_docker/KeyarchOS-5.8-SP2-U1-x86_64-docker-20241211.tar

进行具体方法如下：

第一步：

加载KOS的容器镜像，

docker load -i KeyarchOS-5.8-SP2-U1-x86_64-docker-20241211.tar

第二步：

将宿主机的/mnt/aitest目录挂载到容器镜像中的/ollama下，挂载宿主机目录的命令参数：

-v 宿主机目录:目的目录

本文提供了自动部署脚本，创建docker镜像，需要使用DockerFile文件。

DockerFile文件如下：以7b模型为例:

# 使用本地镜像作为基础镜像

FROM keyarchos:5.8sp2u1

#当前目录下需要放置ollama-linux-amd64.tgz

COPY ollama-linux-amd64.tgz /ollama-linux-amd64.tgz

RUN dnf -y install tar

RUN cd / && tar xvf ollama-linux-amd64.tgz -C /root && cp -r /root/bin/* /bin && cp -r /root/lib/* /lib && rm -rf ollama-linux-amd64.tgz /root/*

# 设置环境变量

ENV OLLAMA_HOST=0.0.0.0:11434

# 映射容器内的端口到主机的端口（例如：容器内端口 14144 映射到主机端口 14144）

EXPOSE 11434

COPY start-7b.sh /start-7b.sh

RUN chmod +x /start-7b.sh

CMD ["/start-7b.sh"]

文档下载链接：

http://kos.ieisystem.com/kos-isos/kos_docker/docker_cpu/Dockerfile

第一步：制作镜像，根据dockerfile构建image，命令如下：

docker build -t deepseek-kos-7b .

第二步：导出构建的image，命令如下：

docker save -o deepseek-kos-7b01.tar deepseek-kos-7b:latest

第三步：加载docker镜像

docker load -i deepseek-kos-7b.tar

第四步：启动docker容器

查看容器镜像

docker run -d -p 11464:11434 --name ds-kos-7b deepseek-kos-7b:latest

注意：

-p 11434:11434是将容器中的11434端口开放。

ds-kos-7b：容器的名称，注意不可与已经使用的容器重名。

deepseek-kos-7b:latest：容器镜像的名称和标签，可通过docker images查询

docker run -d -p 11464:11434 --name ds-kos-7b0302 deepseek-kos-7b:latest

第五步：进入镜像执行一键执行start，命令如下：

docker exec -it c8aea91d41cab51ab32d04fb248a3cd0bfbb8caf8f00cb8aad54cb738ed1c612 bash

c8aea91d41cab51ab32d04fb248a3cd0bfbb8caf8f00cb8aad54cb738ed1c612 容器ID是可变的，与步骤四有关。

为了启动大模型，进入容器，执行命令 ： sh /start_7b.sh

注：

start_7b.sh 文件下载链接：http://kos.ieisystem.com/kos-isos/kos_docker/start_cpu/start-7b.sh

如下图所示：

第六步：开放主机防火墙端口,执行如下命令：（不推荐直接关闭防火墙服务）

firewall-cmd --zone=public --add-port=11434/tcp --permanent && firewall-cmd --reload

2 镜像使用测试

制作完成镜像后可以通过docker服务进行加载启用，具体步骤如下：

第一步：KOS下在线安装docker。

第二步：将deepseek-kos-docker-xxb.tar拷贝到KOS系统下。

第三步：以deepseek-kos-docker-1.5b.tar为例加载镜像，如下图：

第四步：运行镜像，创建的镜像开启，需要开对外的端口。

如：

docker run -d -p 11434:11434 --name ds-kos-1.5b deepseek-kos-docker-1.5b:latest

第五步：放开防火墙端口。

firewall-cmd --zone=public --add-port=11888/tcp --permanent && firewall-cmd --reload

第六步：验证

安装chatbox，设置如下：

模型提供方选择PLLAMA API，API域名设置，模型可以自动选择出来。

使用示例：

3 常见问题

启动的时候名称不可重复，否则会报错

说明已经存在相同名称的镜像在运行。

解决方法：修改容器的名称后再启动。

  写在最后：更多AI学习资料请添加学习助手领取资料礼包

视频学习资料：

从0开始开发超级AI智能体，干掉所有重复工作

  • 基于字节的coze平台从0到1搭建我们自己的智能体
  • 从coze到超级创业个体：2025是AI Agent大爆炸的元年！
  • 搭建智能体的七大步骤：需求梳理、软件选型、提示工程、数据库、构建 UI 界面、测试评估、部署
  • 你的智能体如何并行调用多个通用AI大模型？
  • 实战案例：AI Agent提取小红书文案以及图像进行OCR文字识别并同步写入飞书多维表格
  • 实战案例：AI Agent提取抖音爆款短视频链接中的文案，基于大模型和提示词完成符合小红书风格和作者特点的文案仿写

DeepSeek AI Agent +自动化助力企业实现 AI 改造实战

  • DeepSeek 大模型的本地部署与客户端chatbox本地知识库
  • 程序员的跨时代产品，AI 代码编辑器cursor深入浅出与项目构建
  • 软件机器人工具影刀RPA工业化地基本使用
  • 影刀RPA WEB自动化采集Boss直聘岗位信息并存储
  • 影刀AI Power与DeepSeek 工作流构建影刀AI Agent
  • AI HR实战：结合影刀RPA+DeepSeek AI智能体，实现智能自动招聘机器人

大模型技术+ 数字人+混剪造就副业王炸组合

  • 数字人的概念与价值
  • 当前数字人的时代背景
  • 数字人的市场需求
  • 数字人与自媒体的关系和发展路径
  • 商业化数字人的变现之路
  • 基于coze搭建数字人超级智能体
  • 大模型技术+数字人+混剪=最强副业方向
  • AI大模型与数字人造就3分钟获客300条精准线索
  • AI副业接单渠道与流量变现
  • 程序员开发的AI数字人实战
Docker（四）：容器数据卷与Dockerfile构建镜像（发布）
✨ 欢迎来到【Seal ^_^ 的CSDN博客】！✨
08-30 4万+
🟢 Docker（四）：容器数据卷与Dockerfile构建镜像（发布）
【云原生】第六篇--Dockerfile精讲及新型容器镜像构建技术
检哥说IT的博客
06-20 4227
说到Docker管理的容器不得不说容器镜像，主要因为容器镜像是容器模板，通过容器镜像我们才能快速创建容器。
STM32认知
weixin_42244912的博客
03-20 903
全球三大架构: 1.应用于PC平板电脑和台式电脑等的以intel和AMD为代表的x86架构；属于CISC复杂指令集体系 2.应用于手机处理器和平板电脑等的ARM架构（低功耗、高性能）；属于RISC精简指令集体系；ARM只允许全球极少的几家半导体公司修改CPU架构（包括高通、苹果、NVIDIA和三星，全是半导体大拿），其他生产ARM芯片的公司都是直接采用ARM公版设计，而不能做任何修改（例如华为海思）。 3.MIPS架构是高效精简指令集计算机体系结构中的一种，允许授权商自行更改设计。 ST公司推出的STM32
基于GPU的deepseek容器镜像制作与使用
最新发布
KeyarchOS的博客
06-19 908
执行：docker run -d -p 11333:11434 -v /home/7b:/ollama --gpus all --name dpks7b deepseek-kos-7b:latest。基于GPU的deepseek大模型docker镜像，是在基于KOS的docker镜像的基础上，在容器镜像中安装cuda，并将大模型运行在容器镜像中。下面是基于GPU的容器镜像的制作过程。上图中-p 11333:11434是将容器内的11434端口映射成11333，可以通过宿主机访问容器中的大模型。
DeepSeek部署实战——WSL部署到Docker版
version_chuxuan的博客
02-05 3868
安装到WSL上的情况，我们需要看多个文档，对于系统需要非常多的理解，不过本篇博客仅用于记录操作，下一次版本不知道还能不能用的上。首先要想部署DeepSeek，需要一个Python环境，这个Python环境需要的是GPU版本的pytorch。所以接下来我要讲的是这个部署环境的一些内容，主要是记录本次的学习经验，防止下一次又搜索这么多东西。现在我已经在Windows上安装好了docker这些软件。这比较涉及到底层硬件如何被docker使用的问题。今天13：00——17：00。需要解决的问题主要是。
Docker国内镜像源部署deepseek
deepseek01的博客
02-22 750
‌‌
【deepseek大模型 下载镜像】可用的下载镜像地址
赖德发的博客
02-19 1321
大模型镜像下载网站推荐大家使用。
基于CPU的deepseek容器镜像制作与使用 | KeyarchOS(KOS)
KeyarchOS的博客
05-12 757
KOS团队提供了容器大模型镜像，如：deepseek-kos-docker-1.5b.tar，具体部署和使用步骤如下：（我们提供deepseek-kos-docker-1.5b.tar镜像）图1.1 KOS容器大模型架构本次使用的软硬件环境如下:机型：NF5466G7操作系统：Keyarchos5.8 SP2内存：256G磁盘空间：4T。
Docker学习总结（36）——利用Google开源Java容器化工具Jib构建镜像
科技D人生
07-11 7835
一、前言容器的出现让Java开发人员比以往任何时候都更接近“编写一次，到处运行”的工作流程，但要对Java应用程序进行容器化并非易事：你必须编写Dockerfile，以root身份运行Docker守护进程，等待构建完成，最后将镜像推送到远程注册中心。但并非所有的Java开发人员都是容器专家，像以前那样只需要构建一个JAR包的日子已经结束了吗？为了应对这一挑战，谷歌开源了一个Java容器化工具Jib...
DeepSeek 2.5本地部署的实战教程
热门推荐
herosunly的博客
09-22 19万+
本文主要介绍了DeepSeek 2.5本地部署的实战教程，希望对学习大语言模型的同学们有所帮助。 文章目录 1. 介绍 2. 配置环境 2.1 安装虚拟环境 2.2 安装依赖库 2.3 下载模型文件 3. 运行DeepSeek 2.5 3.1 简单测试 3.2 启动API服务
Docker (二)：镜像、容器导入导出与私有仓库搭建
✨ 欢迎来到【Seal ^_^ 的CSDN博客】！✨
08-17 5万+
🟢 Docker (二)：镜像、容器导入导出与私有仓库搭建
专为新手设计的deepseek r1模型一键运行+微调镜像！
rlrkkrkt的博客
01-31 2973
在与社区交流的过程中，我发现很多对DeepSeek感兴趣的用户并非该领域的专业研究人员，他们可能缺乏深入体验R1模型的技术基础。在对话界面中，我用红框标注的是模型的回答内容，蓝框标注的则是模型的思考过程内容。第2步：在出现的镜像列表里，找到并点击的那个"deepseek-ai/DeepSeek-R1/DeepSeek"镜像 （就是头像是那个红色的，id名字叫xxxiu的那个）数字6，也是最强R1模型 有一说一听别人说运行是是按照moe激活来推理的，反而不需要很大的显存，不过我也没有测试过。
DeepSeek介绍与部署
super_mochi1
01-28 1万+
DeepSeek 是一家由中国知名量化私募巨头幻方量化创立的人工智能公司，致力于开发高效、高性能的生成式 AI 模型。自2023年7月成立以来，DeepSeek在短短一年多的时间里取得了显著的进展，推出了多个引人注目的开源模型，包括 DeepSeek Coder、DeepSeek LLM、DeepSeek-V2、DeepSeek-V3 和 DeepSeek-R1。成立时间：2023年7月17日母公司：幻方量化，一家规模超过百亿的私募量化基金，为DeepSeek提供了坚实的资金支持。
[大模型]DeepSeek-7B-chat WebDemo 部署
FL1623863129的博客
04-15 2万+
由70亿个参数组成的高级语言模型 DeepSeek LLM。它是在一个包含2万亿个英文和中文代币的庞大数据集上从零开始训练的。为了促进研究，DeepSeek 已经为研究社区开放了DeepSeek LLM 7B/67B Base 和 DeepSeek LLM 7B/67B Chat。
deepseek私有部署
清风笑烟语
02-06 555
【代码】deepseek私有部署。
本地部署 deepseek-R1 模型
weixin_44885334的博客
01-31 5285
本地部署 deepseek-R1 模型
win10本地安装DeepSeek
weixin_48040732的博客
02-07 2960
这里记录下自己在电脑中安装DeepSeek的过程，学习下怎么安装和使用。
deepseek 本地化部署和小模型微调
陈锐的技术笔记
02-03 2万+
因为本人gpu卡的机器系统是centos 7, 直接使用ollama会报所以ollama使用镜像方式进行部署， 拉取镜像ollama/ollama启动命令查看ollama 是否启动成功，Ollama 没有用户界面，在后台运行。打开浏览器，输入 “http://xx:11434/”，显示 “Ollama is running”。deepseek-r1 目前有7b, 32b, 70b, 671b 多个版本
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值