群晖通过 Docker 部署 Ollama + Open WebUI + DeepSeek 教程

最新推荐文章于 2025-03-18 20:02:29 发布

yiSty

最新推荐文章于 2025-03-18 20:02:29 发布

阅读量3.4k

点赞数 28

文章标签： docker 容器运维

本文链接：https://blog.csdn.net/yiSty/article/details/145692900

版权

随着 AI 技术的不断发展，本地部署大语言模型的需求日益增加。本文将详细介绍如何在群晖 NAS 上通过 Docker 部署 Ollama + Open WebUI + DeepSeek，实现一个高效、安全的本地 AI 环境。以下是详细步骤：

1. 环境准备

硬件配置：本教程使用的是黑群晖+ G4600T + 16G 内存。
系统版本：群晖 DSM 7.2。
前置工具：确保已安装 Docker。

2. 拉取 Open WebUI 镜像

通过 SSH 连接到 NAS，切换到 root 用户：

sudo -i

拉取 Open WebUI 镜像：

docker pull ghcr.io/open-webui/open-webui:ollama

文件比较大，耐心等待。（我自己等了几个小时）

3. 创建数据文件夹

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

yiSty

关注关注

28
点赞
踩
38

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

Windows搭建Docker+Ollama+Open-WebUI部署DeepSeek本地模型

CPUOS2010的博客

01-29

6324

本文将详细介绍如何在Windows系统上安装和使用Docker+Ollama+Open-WebUI，这三个强大的工具将帮助您轻松管理和运行大型语言模型DeepSeek。Ollama简化了模型的下载与部署，而Open-WebUI则提供了一个直观的图形用户界面，使用户能够更方便地与模型进行交互。

Ollama+deepseek+Docker+Open WebUI实现与AI聊天

chen_znn的博客

02-05

1652

本文记录如何使用Ollama+deepseek+Docker+Open WebUI实现与AI聊天

参与评论您还未登录，请先登录后发表或查看评论

Open WebUI +Ollama + Deepseek聊天界面Open WebUI（GitHub ZIP包）

02-06

deepseek Open-WebUI github官网ZIP包自行下载地址：https://github.com/open-webui/open-webui/archive/refs/heads/main.zip Ollama与Open WebUI结合，可以提供更丰富的交互体验。也可使用支持Ollama的webUI，如 AnythingLLM、Dify、Open-WebUI 等。 Open-WebUI：定位纯聊天界面，支持多模型集成，你可以把它当做一个能“轻松切换模型、马上对话”的 Web 面板，如果只是想单纯体验 Ollama 的生成效果，Open-WebUI 是最方便的。Open web是一个可扩展、功能丰富、用户友好的自托管AI平台，旨在完全离线运行。它支持各种LLM运行程序。 AnythingLLM：更专注于文档知识库与问答场景，自带向量检索管理，可“多文档整合”，接入 Ollama 后实现本地化问答。 Dify：功能多元，适合对话流管理、插件化扩展、团队协同等复杂需求。只要能在其后台正确配置 Ollama 地址，即可灵活调用。

内网穿透的应用-手把手教你打造家庭AI工作站与内网穿透远程访问方案

08-27

2万+

本文主要介绍在 Windows 系统电脑如何利用llamafile结合Cpolar 内网穿透工具，实现随时随地远程访问本地大语言模型的完整流程。llamafile 是一种 AI 大模型部署（或者说运行）的方案，与其他方案相比，llamafile 的独特之处在于它可以将模型和运行环境打包成一个独立的可执行文件，从而简化了部署流程。用户只需下载并执行该文件，无需安装运行环境或依赖库，这大大提高了使用大型语言模型的便捷性。

【AI】在docker中部署ollama体验AI模型

随缘观

03-01

2万+

在docker中部署ollama体验AI模型。

部署 Open WebUI

iffy

10-12

3508

1. 安装docker。2.启动Hyper-v。3.下载安装 WSL。

如何在群晖NAS中部署DeepSeek

u013902331的博客

02-14

2996

若DeepSeek需特定操作系统支持，可通过群晖的「Virtual Machine Manager」创建虚拟机，安装Linux系统后手动部署10。查看容器日志：在Docker的「容器」页面选择DeepSeek容器，点击「详情」→「日志」。若DeepSeek提供官方Docker镜像，可通过Docker的「注册表」搜索并下载。在群晖「控制面板」→「安全性」→「防火墙」中开放相关端口（如8080）。进入群晖的「套件中心」，搜索并安装「Docker」应用912。

群晖上私有化部署DeepSeek-R1

wbsu2004的博客

02-07

9038

DeepSeek-R1 是 DeepSeek 的第一代推理模型，在数学、代码和推理任务中，其性能与 OpenAI-o1 相当。

使用Llama 2大语言模型搭建本地自己的聊天机器人(群晖Docker篇)

weixin_43014359的博客

02-29

3772

随着ChatGPT 和open Sora 的热度剧增,大语言模型时代,开启了AI新篇章,大语言模型的应用非常广泛，包括聊天机器人、智能客服、自动翻译、写作助手等。它们可以根据用户输入的文本生成相应的响应，提供个性化的建议和服务,目前大部分大语言模型的产品都是基于网络线上的,如果我们本地想自己部署一个自己的大语言模型,该如何操作呢,下面介绍一款可以在自己本地部署运行的大语言模型Llama 2。

使用Ollama+Docker+Open-WebUI给linux服务器离线搭建内网版DeepSeek

yyongwh的博客

02-12

1787

参数量是衡量模型复杂度和性能的一个重要指标，通常参数越多，模型能够学习到的数据特征就越复杂，理论上可以提供更精确、更丰富的输出。执行docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always dyrnq/open-webui:main 此时可以客户端访问open-webui。

docker部署及运行ollama

学亮编程手记

02-13

2242

这个 Docker 命令行启动了一个运行 Ollama LLM 的容器，并配置了 GPU 加速和端口映射。通过这个容器，你可以方便地使用 Ollama 提供的各种功能，例如文本生成、问答等。

超级详细的 Ollama 结合 DeepSeek + Docker + Open Web UI 构建本地AI知识库教程

IT小郭的技术博客

03-05

1542

Ollama结合DeepSeek、Docker和Open Web UI构建本地AI知识库教程，将带您轻松搭建一套高效、易用的智能问答系统。本教程通过Docker容器化技术，简化了环境配置过程，确保了系统的稳定运行。DeepSeek作为强大的知识库构建工具，助力您快速整合各类数据资源。Open Web UI则为用户提供了一个美观、直观的交互界面。跟随本教程，您将掌握从零开始搭建AI知识库的完整流程，实现个性化智能问答服务，助力您在短时间内成为AI领域的专家。快来开启您的AI知识库搭建之旅吧！

250302-绿联NAS通过Docker配置SearXNG及适配Open-WebUI的yaml配置

专注机器学习之路

03-02

728

绿联NAS通过Docker配置SearXNG

最近爆火的DeepSeek如何部署到飞牛NAS（适用于大部分Linux）

小白电脑技术的博客

01-29

8274

模型就是你看到的【Name】或者【ID】都是可以的，复制一下其中一个，比如我复制【NAME】下面的【deepseek-r1:1.5b】过程中可能会提示by peer，然后进程就中断了，这时候按一下【⬆️】，回车，重新下载安装。如果安装出错，需要重启一下飞牛NAS。内容输出的快慢取决于你的飞牛NAS配置（主要还是CPU），小白的飞牛NAS跑起来感觉还可以（想要壁纸的小伙伴在公众号后台回复【关闭这个运行框之后，如果想要使用它，直接SSH连接到飞牛NAS（不需要sudo -i进入到root模式也可以的）

群晖NAS本地部署Chatbot-Ollama打造个人智能聊天服务

饺子大魔王

05-16

2258

上面我们运行设置chatbot ollama 的对外端口是3001(具体以自己设置的为准),下面我们在浏览器访问群晖3001端口,既可看到我们的web交互界面,同时,上面显示了使用的llama2模型,下面输入文字即可对话,这样一个本地部署的机器人就完成了,对话的响应速度取决于设备的配置,尽量使用高配置的服务器运行部署哦,本地完成后,我们接下来设置远程也可以访问,下面安装cpolar工具,实现无公网IP也可以远程访问我们的聊天机器人界面!它的主要功能是简化在Docker容器内部署和管理LLM的过程。

安装docker版本ollama

weixin_47249499的博客

12-20

3787

由于服务器在docker pull ollama/ollama时会卡住，首先通过wsl下载并导出ollama的docker镜像包。1.由于服务器本身有非docker版的ollama，因此先用命令停止。注：如果原服务器已配置低版本的docker版本ollama，请先删除。此处-v后面紧跟的路径需要根据实际路径地址来进行映射。4.加载镜像成功后，输入如下命令进行查看。2.使用docker镜像构建容器。3.在终端运行以下命令加载镜像。1.上传tar包到指定服务器。2.进入tar包所在文件夹。

ollama open webui本地部署deepseek

02-18

### 如何在本地部署Ollama Open WebUI 为了在本地环境中成功部署Ollama Open WebUI，需遵循一系列配置指令来确保环境搭建无误。首先确认已安装Docker及其Compose插件，因为这些工具对于运行容器化应用至关重要[^1]。 #### 安装依赖项 ```bash sudo apt-get update && sudo apt-get install docker.io docker-compose -y ``` #### 获取并启动Ollama Open WebUI镜像通过克隆官方仓库获取最新版本的应用程序源码，并切换至对应目录下执行构建命令。 ```bash git clone https://github.com/ollama/open-d --build ``` 此时应该可以在浏览器访问`http://localhost:7860`查看到Web界面[^2]。 ### 部署DeepSeek指南针对DeepSeek的具体部署流程可能略有不同，通常建议参照其GitHub页面上的README文档获得最准确指导说明。一般情况下涉及以下几个方面： - Python虚拟环境创建与激活； - 使用pip安装必要的Python包； - 下载预训练模型权重文件； - 修改配置参数适应个人硬件条件；具体操作如下所示： ```bash python3 -m venv env source ./env/bin/activate pip install -r requirements.txt wget http://path_to_model_weights/model.bin vi config.yaml # 编辑适合自己的设置选项 python app.py ``` 上述过程假设读者具备一定Linux命令行基础以及对Git、Docker有一定了解程度。如果遇到任何困难可以查阅相应项目的Wiki部分或者向社区求助。