Chat2DB+ChatGLM自然语言转sql部署

Chat2DB+ChatGLM自然语言转sql

Chat2DB官网地址：https://chat2db.ai/docs/

ChatGLM官网地址：https://github.com/THUDM/ChatGLM-6B

chatGLM搭建教程地址：https://blog.csdn.net/qq_31136513/article/details/130405007

配置ChtaGLM

ChatGLM要用API部署的启动方式（git上面有文档）

1.安装依赖

pip install fastapi uvicorn

2.修改api.py启动文件

tokenizer = AutoTokenizer.from_pretrained("D:\AI\code\ChatGLM\model\chatglm2-6b", trust_remote_code=True)

model = AutoModel.from_pretrained("D:\AI\code\ChatGLM\model\chatglm2-6b", trust_remote_code=True).half().quantize(4).cuda()

3.启动完成测试根据接口调用大模型是否成功

POST http://127.0.0.1:8000

Body {"prompt":"根据score表和student表查一下name为David的成绩","history":[]}

配置Chta2DB

1.自定义url为上面ChatGLM的API接口 http://127.0.0.1:8000/

2.自然语言转sql

3.目前返回的是一个json这个问题，如果需要解决，则可以试着重写接口来对返回结果集进行抽取

如下为标准的模型返回的结果

这是开源模型作者提供的key测试获取的标准的模型返回的结果