Docker Compose部署大语言模型LLaMa3+可视化UI界面Open WebUI

一、介绍

• Ollama：部署+运行大语言模型的软件
• LLaMa3：史上最强开源AI大模型 — Meta公司新发布的大语言模型
• Open WebUI：AI用户界面，可通过浏览器访问

二、Docker部署

docker-compose.yml文件如下：

version: '3'

services:
  ollama:
    container_name: bruce-ollama
    image: ollama/ollama
    volumes:
      - ./runtime/ollama:/root/.ollama
      - ./config/models:/data/models
    environment:
      - TZ=Asia/Shanghai
    ports:
      - "11434:11434"
    networks:
      - public

  open-webui:
    container_name: bruce-open-webui
    image: m.daocloud.io/ghcr.io/op