open-web UI 实用指南

szmars

已于 2024-11-22 17:52:31 修改

阅读量3.5w

点赞数 43

分类专栏： open-web UI 文章标签：人工智能自然语言处理 AI作画语音识别 ocr

于 2024-10-09 16:02:32 首次发布

本文链接：https://blog.csdn.net/szmars/article/details/142788770

版权

open-web UI 类似于chatgpt, 可以私有化模型本地部署，可以实现多模态AI聊天， AI 翻译， AI搜索，语音转文本，文本转语音，文生图，代码助手，可谓利器。
前提：安装好WSL2 ，ollama安装在WSL2里面。参考我的WSL2折腾帖子

安装open-web UI

使用 pip 安装

需要 Python 3.11

安装Open WebUI：打开你的终端并运行以下命令：
```
pip install open-webui
```
启动 Open WebUI：安装完成后，使用以下命令启动服务器：
```
open-webui serve
```

安装后，可以在 http://localhost:8080 访问Open WebUI
如果有需要更新：

pip install --upgrade open-webui

AI 聊天

点用户，打开管理员面板，选择设置–外部连接，输入Ollama API的链接地址，点击右边按钮，测试连接

在这里插入图片描述

然后在设置–界面，选择一个默认模型

在这里插入图片描述

然后就可以回到新对话，进行聊天了。

AI 多模态聊天

ollama 0.4.0之后支持llama3.2-vision，可以识图聊天了。

在管理员面板-设置-模型，下载llama3.2-vision, 大约7.9GB

在这里插入图片描述
然后新建一个对话，上传图片，问它问题。

AI翻译

可以在工作空间编辑一下提示词，便于翻译

在这里插入图片描述

在聊天框输入 /xtranslate, 在content位置输入你的文本，答复如下
在这里插入图片描述

AI搜索

由于大模型的知识都是过去时，如果询问需要最新的知识，就需要AI+搜索来实现。分两步来实现

搜索引擎

SearXNG 是一个元搜索引擎，从多个搜索引擎中聚合结果。我们用docker方式安装

git clone https://github.com/searxng/searxng-docker.git
cd searxng-docker

用OpenSSL工具建立一组secret key，并自动填入到searxng/settings.yml

sed -i "s|ultrasecretkey|$(openssl rand -hex 32)|g" searxng/settings.yml

修改 searxng/settings.yml 成以下， secret_key已经填入，不要修改哦。

# see https://docs.searxng.org/admin/settings/settings.html#settings-use-default-settings
use_default_settings: true

server:
  secret_key: "已经自动填入的secret_key"
  limiter: false
  image_proxy: true

ui:
  static_use_hash: true

search:
  safe_search: 0
  autocomplete: ""
  default_lang: ""
  formats:
    - html
    - json

新建一个 searxng/uwsgi.ini文件，填入以下内容：

[uwsgi]
# Who will run the code
uid = searxng
gid = searxng

# Number of workers (usually CPU count)
# default value: %k (= number of CPU core, see Dockerfile)
workers = %k

# Number of threads per worker
# default value: 4 (see Dockerfile)
threads

最低0.47元/天解锁文章