DB-GPT Docker部署

拉取镜像

docker pull eosphorosai/dbgpt:latest

linux判断拉取是否成功的方法

docker images | grep "eosphorosai/dbgpt"

windows判断拉取是否成功的方法

docker images | Select-String "eosphorosai/dbgpt"

如果报错没有,则用

docker images | findstr "eosphorosai/dbgpt"

模型以及启动容器

模型

本地部署大模型,可离线下载后放置/models目录下(启动容器后docker cp即可)。
docker cp后别着急提交新镜像,可能会出现要安装其他包。

启动容器

docker run --ipc host --gpus all -d \
-p 5000:5000 \
-e LOCAL_DB_TYPE=sqlite \
-e LOCAL_DB_PATH=data/default_sqlite.db \
-e LLM_MODEL=vicuna-13b-v1.5 \
-e LANGUAGE=zh \
-v /data/models:/app/models \
--name dbgpt \
eosphorosai/dbgpt

界面如下(0.56):

在这里插入图片描述

### DB-GPT Docker 配置与镜像 对于涉及DB-GPTDocker配置和镜像,当前提供的参考资料并未直接提及具体的细节。然而,在构建任何基于Docker的应用程序时,通常会遵循一系列标准实践来创建适合特定应用需求的环境。 #### 创建自定义Dockerfile用于DB-GPT 为了适配DB-GPT项目的需求,可以编写一个定制化的`Dockerfile`: ```dockerfile FROM python:3.9-slim-buster WORKDIR /app COPY requirements.txt . RUN pip install --no-cache-dir -r requirements.txt COPY . . CMD ["python", "db_gpt_app.py"] ``` 此示例假设存在名为`requirements.txt`的依赖列表以及启动应用程序所需的入口脚本`db_gpt_app.py`[^1]。 #### 使用多阶段构建优化镜像大小 通过采用多阶段构建技术,可以在不影响功能的前提下显著减小最终生成的容器映像体积: ```dockerfile # 构建阶段 FROM python:3.9-slim-buster AS builder WORKDIR /build COPY ./src/requirements.txt . RUN pip wheel --wheel-dir=/wheels -r requirements.txt # 运行时阶段 FROM python:3.9-alpine WORKDIR /app COPY --from=builder /wheels / RUN pip install --no-index --find-links=file:///wheels \ && rm -rf /wheels COPY src/ . CMD ["python", "-u", "./main.py"] ``` 这种方法不仅有助于提高部署效率,还能增强安全性并减少资源消耗[^2]。 #### 利用官方仓库获取预构建镜像 如果社区已经提供了针对DB-GPT项目的官方或第三方支持,则可以直接从公共注册表拉取相应的镜像而无需自行编译: ```bash docker pull dbgpt/db-gpt-app:latest ``` 这一步骤简化了前期准备工作,并允许团队专注于核心业务逻辑而非基础设施搭建上[^3]。
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值