DB-GPT Docker部署

拉取镜像

docker pull eosphorosai/dbgpt:latest

linux判断拉取是否成功的方法

docker images | grep "eosphorosai/dbgpt"

windows判断拉取是否成功的方法

docker images | Select-String "eosphorosai/dbgpt"

如果报错没有，则用

docker images | findstr "eosphorosai/dbgpt"

模型以及启动容器

模型

本地部署大模型，可离线下载后放置/models目录下（启动容器后docker cp即可）。
docker cp后别着急提交新镜像，可能会出现要安装其他包。

启动容器

docker run --ipc host --gpus all -d \
-p 5000:5000 \
-e LOCAL_DB_TYPE=sqlite \
-e LOCAL_DB_PATH=data/default_sqlite.db \
-e LLM_MODEL=vicuna-13b-v1.5 \
-e LANGUAGE=zh \
-v /data/models:/app/models \
--name dbgpt \
eosphorosai/dbgpt

界面如下（0.56）：