玩转大模型之四（本地部署DB-GPT）

一、DB-GPT是啥

DB-GPT是一个开源框架，通过集成多种技术如SMMF、Text2SQL优化等，简化大模型在数据库应用中的开发，支持数据处理、问答、RAG等功能，适用于数据3.0时代的高效应用构建。它强调隐私安全和模型管理，提供多种交互方式如数据库对话和Excel支持。

二、本地部署

1、下载代码并安装依赖

git clone https://github.com/eosphoros-ai/DB-GPT.git
cd DB-GPT
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple -e ".[default]"
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple -e ".[openai]"

2、准备.env文件

LLM_MODEL=ollama_proxyllm
MODEL_SERVER=http://10.33.19.16:11434
PROXY_SERVER_URL=http://10.33.19.16:11434
PROXYLLM_BACKEND=qwen2:7b
PROXY_API_KEY=not_used
EMBEDDING_MODEL=proxy_ollama
proxy_ollama_proxy_server_url=http://10.33.19.16:11434
proxy_ollama_proxy_backend=nomic-embed-tex