[AI]Linux部署Ollama+Open-WebUi

1.部署Ollama

• Ollama Github官方文档
• 获取Ollama安装包

curl -fsSL https://ollama.com/install.sh | sh

• 修改允许访问ip

# 在service下面加入一行配置
vim /etc/systemd/system/ollama.service
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"

• 重启ollama

systemctl daemon-reload
systemctl restart ollama

• 安装Llama3 8B模型

ollama run llama3:8b

2.安装Docker

• 更换国内源

yum install -y yum-utils
yum-config-manager --add-repo https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
yum install -y docker-ce

• 启动Docker

systemctl start docker
systemctl enable docker

3.部署Open-WebUi

• Open-WebUi Github官方文档
• Docker启动open-webui

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

• 访问web界面 ip:port