【保姆级教程】Windows系统+ollama+Docker+Anythingllm部署deepseek本地知识库问答大模型，可局域网多用户访问

最新推荐文章于 2025-04-11 15:05:40 发布

题安题安

最新推荐文章于 2025-04-11 15:05:40 发布

阅读量1.5k

点赞数 21

分类专栏： deepseek部署文章标签： windows docker deepseek anythingllm

本文链接：https://blog.csdn.net/weixin_42474607/article/details/146309000

版权

deepseek部署专栏收录该内容

2 篇文章

订阅专栏

1.Ollama 本地化部署 DeepSeek R1

3.安装 Docker Desktop并拉取Anythingllm镜像

1.Ollama 本地化部署 DeepSeek R1

1.1下载Ollama

访问Ollama官网：Ollama

点击Download，根据你的操作系统（Windows、MacOS 或 Linux）选择对应的安装包进行下载。

1.2安装Ollama

下载完成后，运行安装程序，按照提示完成安装。

Windows：直接安装.exe文件，一步一步安装完毕即可。

Mac：将文件下载后，直接将Ollama程序拉到应有程序文件夹即可。

安装完成后，

打开终端或命令提示符（win键+R键，输入cmd回车），

输入以下命令来检查 Ollama 是否安装成功：

ollama --version

如果显示版本信息，说明安装成功。

1.3安装DeepSeek R1大模型

目前常用版本以及推荐硬件配置

入门级：1.5B版本(4GB内存+核显可运行)

进阶推荐：8B版本(8GB内存+4GB显存)

高性能设备：32B版本(32GB内存+12GB显存)

我选择的是8B版本

在cmd中输入

ollama run deepseek-r1:8b

过程较长，耐心等待即可

成功之后输入ollama list，出现模型信息即可。

ollama list

常用 Ollama 命令列出本地可用的模型列表：ollama list

启动模型：ollama run model_name

查看模型信息：ollama show model_name

删除指定模型：ollama rm model_name

2.系统环境配置

2.1开启系统功能

通过控制面板，进入到“程序与功能”→“启用或关闭Windows功能”，下图中红色框框的选择框选中，然后点击确定进行安装。

2.2安装wsl

win+R，输入cmd回车，打开命令提示符窗口

在命令提示符中输入

wsl --install

微软官方教程：https://learn.microsoft.com/en-us/windows/wsl/setup/environment

3.安装 Docker Desktop并拉取Anythingllm镜像

3.1从 Docker 官网下载并安装。

Docker官方网址：Docker Desktop: The #1 Containerization Tool for Developers | DockerDocker Desktop is collaborative containerization software for developers. Get started and download Docker Desktop today on Mac, Windows, or Linux.https://www.docker.com/products/docker-desktop/

安装完成之后

3.2拉取镜像

命令提示符中输入

docker pull mintplexlabs/anythingllm

如果使用报错，可以改为国内镜像

改为使用国内镜像

docker pull swr.cn-north-4.myhuaweicloud.com/ddn-k8s/docker.io/mintplexlabs/anythingllm:latest

改名

docker tag swr.cn-north-4.myhuaweicloud.com/ddn-k8s/docker.io/mintplexlabs/anythingllm mintplexlabs/anythingllm

拉取完成之后输入docker images，可以看到电脑中存在Anythingllm这个镜像了

设置 STORAGE_LOCATION 路径

在 CMD 中，你可以使用 set 命令来设置环境变量。假设你希望将 STORAGE_LOCATION 设置为 Windows 的文档目录，可以按以下步骤操作：

设置存储目录

set STORAGE_LOCATION=%USERPROFILE%\Documents\anythingllm

if not exist "%STORAGE_LOCATION%" mkdir "%STORAGE_LOCATION%"

创建 .env 文件（如果文件不存在）：

if not exist "%STORAGE_LOCATION%\.env" echo. > "%STORAGE_LOCATION%\.env"

此时会在电脑文档的文件夹下，存在一个anythingllm文件夹，该文件夹下存在一个.env文件，存放一些配置，如下所示：

.env 文件的作用

.env 文件是用于存储容器配置的环境文件，通常包含敏感信息和应用的配置参数。例如，配置大语言模型（LLM）、API 密钥、数据库连接等。容器运行时，它会读取 .env 文件并使用其中的配置信息。

关键配置项

在 .env 文件中，常见的配置项包括：

SERVER_PORT：指定服务器运行的端口。

JWT_SECRET：用于生成和验证 JWT（JSON Web Token）的密钥。

STORAGE_DIR：指定存储数据的路径。

LLM_PROVIDER：配置大语言模型提供者。

OLLAMA_BASE_PATH：配置 Ollama 服务的基础 URL 地址。

OPEN_AI_KEY：用于访问 OpenAI API 的密钥。

.env 文件中配置的内容会根据你的需求和使用的服务不同而有所变化。

3.3运行 Docker 命令

在 CMD 中，你可以使用单行命令运行 Docker：

docker run -d --name anythingllm --add-host=host.docker.internal:host-gateway --env STORAGE_DIR=/app/server/storage --health-cmd "/bin/bash /usr/local/bin/docker-healthcheck.sh || exit 1" --health-interval 60s --health-start-period 60s --health-timeout 10s -p 3001:3001/tcp --restart=always --user anythingllm -v %STORAGE_LOCATION%:/app/server/storage -v %STORAGE_LOCATION%\.env:/app/server/.env -w /app mintplexlabs/anythingllm

运行之后如下图，会启动一个容器，用一大串字母表示，该字母是Docker 为该容器分配一个唯一的 ID，这个 ID 主要用于在 Docker 系统中管理容器。你可以用这个 ID 来执行不同的 Docker 命令，比如停止容器、查看容器日志、查看容器状态等。

查看当前所有的容器，命令如下：