AI - 人工智能;Open WebUI;Lobe Chat;Ollama

AI - 人工智能;Ollama大模型工具;Java之SpringAI(三)

鉴于使用Ollama的命令行交互不是很方便,所以我们需要另一个开源的WebUI,搭建一个能通过浏览器访问的界面;Ollama的Web & Desktop非常多,比较流行的是 Open WebUI

本文按照Windows系统下使用Docker方式来安装Open WebUI,源码部署安装可以参考文档自行部署

Window下使用Docker推荐使用Docker Desktop; Docker Desktop是一款适用于Windows操作系统的桌面应用,它为开发人员提供了一个界面化操作Docker的环境,以便在本地环境中轻松创建、构建和运行Docker容器

一、Docker Desktop

1、Windows系统下Docker Desktop的安装

官网下载安装包:https://www.docker.com/products/docker-desktop/

2、安装运行Docker Desktop

下载完成之后点击安装,默认安装路径 C:\Program Files\Docker\Docker 

点开运行,接受默认的配置

可以注册账号,或者直接游客身份运行

点进去之后,调查可以跳过

启动之后页面情况显示如下:

如遇Docker Desktop显示 “Docker Engine stopped”,参考文章

Docker - Docker Desktop启动显示“Docker Engine stopped”

资源默认存放路径:C:\Users\allen\AppData\Local\Docker\wsl;点击设置---->Resources,修改资源下载存储路径

启动终端,输入命令查看

docker ps

二、Open WebUI

Open WebUI是一个可扩展、功能丰富、用户友好的自托管WebUI,它支持完全离线操作,支持各种LLM(Large Language Model)运行程序,包括Ollama和OpenAI兼容的API

Open WebUI Github:https://github.com/open-webui/open-webui

Open WebUI 官网:https://www.openwebui.com/

搭建部署Open WebUI有两种方式:

1、Docker方式:(官方推荐的方式)

2、源码部署安装方式:(文档: https://docs.openwebui.com/getting-started/

1、在docker中运行Open WebUI

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v D:\SoftData\Open-WebUI:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

这是一个 docker run 命令,用于启动一个新的 Docker 容器,下面是这个命令各个部分的解释:

docker run:这是 Docker 的命令,用于从指定的镜像启动一个新的容器;

-d:表示在“分离”模式下运行容器,即后台运行;

-p 3000:8080:端口映射,表示将宿主机的3000端口映射到容器的8080端口,当你访问宿主机的3000端口时,实际上会访问容器内的8080端口;

--add-host=host.docker.internal:host-gateway:这个选项向容器的 /etc/hosts 文件中添加一条记录,这通常用于让容器能够解析到宿主机的名称,并且将其 IP 地址设置为宿主机的网关地址,这在某些网络配置中很有用,尤其是当容器需要知道宿主机的地址时;

-v D:\SoftData\Open-WebUI:/app/backend/data:卷挂载,这表示将宿主机的 D:\SoftData\Open-WebUI 目录挂载到容器内的 /app/backend/data 目录,这样,容器和宿主机之间可以共享这个目录中的数据;

--name open-webui:为容器指定一个名称,这里是 open-webui;

--restart always:这个选项告诉 Docker 在容器退出时总是自动重启它,无论容器是因为何种原因退出,它都会自动重启;

ghcr.io/open-webui/open-webui:main:这是你要运行的 Docker 镜像的完整名称,ghcr.io 是 GitHub Container Registry 的地址,open-webui/open-webui 是镜像的仓库和名称,main是标签,通常表示该镜像的最新或主分支版本;

如遇Docker Desktop拉取镜像很慢,可配置阿里云镜像加速器,参考文章 

https://blog.csdn.net/MinggeQingchun/article/details/143575705

下载完成之后,查看Docker Desktop中容器Containers和Images

2、界面操作

 打开界面,网页输入地址:http://localhost:3000/

三、Lobe Chat

官网:https://lobehub.com/

Github:https://github.com/lobehub/lobe-chat

Built for you the Super Individual (专为你打造的超级个人)

现代化设计的开源 ChatGPT/LLMs 聊天应用与开发的UI框架;

支持语音合成、多模态、可扩展的(function call)插件系统;

一键免费拥有你自己的 ChatGPT/Gemini/Claude/Ollama 应用;

1、Lobe Chat 部署

1、使用 Vercel、Zeabur 或 Sealos 部署

2、使用 Docker 部署

docker run -d -p 3210:3210 -e OPENAI_API_KEY=sk-xxxx -e ACCESS_CODE=lobe66 --name lobe-chat lobehub/lobe-chat

完整的部署文档:https://lobehub.com/zh/docs/self-hosting/start

2、界面操作

打开界面,网页输入地址:http://localhost:3210/

(1)选择大模型

(2)语言模型选择API Key和API代理地址

(3)设置Ollama服务器地址以及大模型类型

### LobeChat Ollama 使用指南 #### 一、LobeChat 概述 LobeChat 是一款开源的 AI 聊天框架,旨在帮助用户轻松构建部署个性化的聊天机器人。该工具集成了多种先进的自然语言处理模型技术,能够提供高质量的对话服务[^3]。 #### 二、Ollama 集成概述 为了进一步增强 LobeChat 的功能,可以将其与 Ollama 进行集成。这不仅扩展了系统的应用场景,还提高了其灵活性支持范围。具体来说,这种组合允许开发者利用 Ollama 提供的强大 API 接口来实现更复杂的功能服务[^2]。 #### 三、安装准备 在开始之前,请确保已准备好以下环境: - 支持 Docker 容器运行的操作系统; - 已经安装好 Git 版本控制系统用于获取源码; - 如果计划使用 GPU 加速,则需配置相应的驱动程序及 CUDA 环境; #### 四、部署过程详解 ##### 1. 获取最新版本代码库 通过命令行克隆仓库到本地机器: ```bash git clone https://github.com/lobehub/LobeChat.git cd LobeChat ``` ##### 2. 构建镜像文件 根据官方文档指示,在项目根目录下执行如下指令完成容器化打包工作: ```dockerfile docker build -t lobe-chat . ``` ##### 3. 启动应用程序实例 创建一个新的网络桥接以便于后续组件间通信,并启动主节点: ```bash docker network create lobenet docker run --name=lobe-main --network=lobenet -d -p 8080:8080 lobe-chat ``` ##### 4. 添加 Ollama 插件模块 访问 [Ollama 文档](https://ollama.ai/docs) 并按照说明下载对应插件包至指定路径内,之后重启整个集群使更改生效即可享受全新特性带来的便捷之处。 #### 五、自定义设置建议 对于想要深入了解内部机制或是追求极致性能优化的朋友而言,可以从以下几个方面入手调整参数选项以达到最佳效果: - 修改 `config.json` 文件内的各项数值; - 编辑 `.env` 变量表单影响全局行为模式; - 自行训练专有的 NLP 模型替换默认加载项;
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值