DB-GPT、ChatGLM3-6B全精度部署_db-gpt chatglm


#### 源代码修改,就是把这两句代码提前到dbgpt模块导入


![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/88d4ae3e91cb4c9a83a26acfdcf17f5e.png)


## 2、 数据库设置(docker + MySQL)



docker安装与mysql容器搭建就不详细说了

主要是数据迁移,有小坑

首先查看mysql服务地址

ifconfig


![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/9730f73f34ec41a28e246b4def785044.png)



导入数据库

mysql -h 172.17.0.1 -u root -p < ./assets/schema/dbgpt.sql

由于代码更新需要修改数据库表结构,有一张表需要添加字段

mysql -u root -p -h 172.17.0.1


![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/69a2595dd31549bdb555adc1c261734d.png)



USE dbgpt;
ALTER TABLE dbgpt_serve_flow
ADD COLUMN error\_message varchar(512) null comment ‘Error message’ after state;


### 3、模型下载


请参照我的上一篇博客  
 [ChatGLM3-6B 多GPU、Linux环境部署遇到的问题以及解决方法]( )



cd DB-GPT
mkdir models
ln -s /opt/model/cache/ZhipuAI/chatglm3-6b /opt/suwy/DB-GPT/models/chatglm3-6b

注意这个bge-large-zh不要加后缀,这个是写死在.env环境文件中的

ln -s /opt/model/cache/AI-ModelScope/bge-large-zh-v1.5 /opt/suwy/DB-GPT/models/bge-large-zh


![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/beda7fe7cfff4631b41c7e8055247555.png)


### 4、.env环境文件修改



cp .env.template

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值