一文搞懂大模型可视化（Open WebUI）

大模型.

于 2025-04-19 08:30:00 发布

阅读量2.2k

点赞数 51

文章标签：人工智能职场和发展大数据网络开发语言大模型 deepseek

本文链接：https://blog.csdn.net/EnjoyEDU/article/details/147323536

版权

Open WebUI 是一款专为大模型设计的开源可视化交互工具，它通过类 ChatGPT 的直观界面，让用户无需代码即可管理、调试和调用本地或云端的大语言模型（LLMs）。

Open WebUI 通过可视化交互与大模型技术结合，成为私有化部署的标杆工具。其开箱即用的特性适合开发者快速验证模型、企业构建合规 AI 平台及个人用户探索 AI 应用。随着插件生态的扩展（如视频生成、语音交互），未来可进一步降低多模态应用的开发门槛。

Open WebUI - 仿照ChatGPT，为本地大语言模型提供对话界面- 小众软件

一、Open WebUI

什么是Open WebUI？Open WebUI 是一个开源的、可扩展且用户友好的自托管 AI 平台，专为生成式人工智能模型交互而设计。

Open WebUI旨在为用户提供一个简单易用、功能强大且高度定制化的界面，使其能够轻松与各种 AI 模型（如文本生成、图像生成、语音识别等）进行交互。

直观交互体验：提供类似 ChatGPT 的自然语言对话界面，支持Markdown 格式渲染（如加粗、列表、代码块等）和代码高亮显示，提升内容可读性。
多轮对话管理：内置对话历史记录功能，用户可随时回顾上下文，避免重复输入，确保对话连贯性。
全平台兼容性： 采用响应式设计，无论是桌面端还是移动端，界面均能自适应屏幕尺寸，提供一致的使用体验。
低门槛操作： 通过简化交互流程和优化视觉设计，大幅降低非技术用户的使用难度，真正实现“零学习成本”上手。

Open WebUI + vLLM如何实现DeepSeek本地部署并可视化？在本地部署 DeepSeek 模型并结合 Open WebUI 和 vLLM 实现可视化，可通过以下步骤完成。

1. 下载 DeepSeek 模型

从 HuggingFace 下载模型文件

git lfs install
git clone https://huggingface.co/deepseek-ai/DeepSeek-7B

2. 安装 vLLM

使用 vLLM 加速推理

pip install "vllm>=0.4.2" --extra-index-url https://download.pytorch.org/whl/cu118

3. 安装 Open WebUI

通过 Docker 快速部署

docker pull ghcr.io/open-webui/open-webui:main

4. 启动 vLLM 服务

加载 DeepSeek 模型并启动 API 服务

python -m vllm.entrypoints.openai.api_server \ 
 --model /path/to/DeepSeek-7B-Chat \  
 --trust-remote-code \  
 --tensor-parallel-size 1 \ 
  --max-model-len 4096 \  
  --port 8000

5. 启动 Open WebUI

配置 Docker 容器并连接 vLLM

docker run -d \
  -p 3000:8080 \  
  -e OLLAMA_API_BASE_URL=http://host.docker.internal:8000/v1 \  
  -e WEBUI_SECRET_KEY=your_secret_key \  
  -v open-webui:/app/backend/data \  
  --name open-webui \ 
   ghcr.io/open-webui/open-webui:main

二、OpenAI API

OpenAI API 如何接入大语言模型？OpenAI API是 OpenAI 提供的一组编程接口，允许开发者通过代码调用其先进的大语言模型。

# Please install OpenAI SDK first: `pip3 install openai`
from openai import OpenAI
client = OpenAI(api_key="<DeepSeek API Key>", base_url="https://api.deepseek.com")
response = client.chat.completions.create(  
  model="deepseek-chat",   
   messages=[   
        {"role": "system", "content": "You are a helpful assistant"},        
        {"role": "user", "content": "Hello"},   
 ],    
 stream=False
 )
 print(response.choices[0].message.content)

Open WebUI 如何接入大语言模型？Open WebUI 支持通过 OpenAI API 兼容接口接入多种大语言模型（LLM）。

本地部署的模型（如 vLLM、Transformers 运行的模型）
云端 API 服务（如 OpenAI GPT-4、DeepSeek API、Anthropic Claude 等）

1、接入本地部署的模型

vLLM 提供高性能推理，并兼容 OpenAI API 格式。

pip install vllmvllm
 serve deepseek-r1 --port 8000

2. 通过 Transformers 部署

适用于 Hugging Face 模型（需自行封装 API），启动服务后，在 Open WebUI 填写对应的 API 地址即可。

from transformers import AutoModelForCausalLM, AutoTokenizer
from fastapi import FastAPI

app = FastAPI()
model = AutoModelForCausalLM.from_pretrained("deepseek-r1")
tokenizer = AutoTokenizer.from_pretrained("deepseek-r1")

@app.post("/v1/chat/completions")
async def generate(request: dict):  
  response = model.generate(**request)    
  return {"choices": [{"message": {"content": response}}]}

3. 在 Open WebUI 中配置

进入设置 > 模型，填写 API 地址：http://localhost:8000/v1，选择模型名称（如 deepseek-r1）

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】