dbgpt部署教程,纯小白教程

1.打开git下载zip文件

下载地址: GitHub - eosphoros-ai/DB-GPT at v0.5.0

2.容器部署

2.1 先启动python3.10环境

docker run -itd --name dbgpt1 --gpus all --shm-size="32g" -p 60035:5000 -p 60037:7860 -p 60038:8000 \
-v /home/tmn/OAPD/jiayq/v0.5.0/:/data  \
-v /home/tmn/MODELS/GanymedeNil/text2vec-large-chinese:/data/DB-GPT/models/text2vec-large-chinese \
-v /home/tmn/MODELS/lmsys/vicuna-13b-v1.5:/data/DB-GPT/models/vicuna-13b-v1.5 \
python:3.10 /bin/bash


#说明 重要的挂载路径
将DB-GPT-0.5.0.zip 在/home/tmn/OAPD/jiayq/v0.5.0/ 解压缩
大模型分别位于主机的 
    /home/tmn/MODELS/GanymedeNil/text2vec-large-chinese
    /home/tmn/MODELS/lmsys/vicuna-13b-v1.5
映射到容器里面 /data/DB-GPT/models位置

2.2 然后

docker exec -it dbgpt1 /bin/bash

# 进入容器后执行下面命令

cd /data/DB-GPT
pip install -e ".[default]"

# 等待一会...

2.3 设置配置文件

cp .env.template .env


# 安装vim
apt-get install vim

vim .env

2.4 启动

python dbgpt/app/dbgpt_server.py

我遇到下面报错:

解决方法:

chromadb包的__init__.py 添加几行代码,解决步骤如下

完美解决 RuntimeError: Your system has an unsupported version of sqlite3. Chroma requires sqlite3 >= 3.3-CSDN博客

  • 1
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论
引用\[1\]: 在做spm pair-t检验时,首先需要加载模型并合并模型。具体步骤包括加载原始的LLaMA tokenizer和中文sentencepiece模型,并将它们转换为Protocol Buffers格式。然后,从中文sentencepiece模型中提取词汇,并将这些词汇添加到LLaMA tokenizer中。最后,将合并后的模型保存到指定的目录。这样就得到了合并后的Chinese-LLaMA tokenizer。\[3\] 引用\[2\]: 在spm pair-t检验中,边际是偏好评级的离散函数。研究发现,这个边际成分可以提高帮助性奖励模型的准确性,特别是在两个response更好区分的样本上。也就是说,边际成分可以帮助我们更好地区分样本的不同反应。\[2\] 综上所述,spm pair-t检验是一种用于比较两个样本之间差异的统计方法。在进行这个检验时,我们需要合并模型并考虑边际成分,以提高准确性和区分度。 #### 引用[.reference_title] - *1* [VBM后的配对t检验以及xjview使用](https://blog.csdn.net/xxxxffff_/article/details/123876329)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insert_down1,239^v3^insert_chatgpt"}} ] [.reference_item] - *2* *3* [LLaMA的解读与其微调:Alpaca-LoRA/Vicuna/BELLE/中文LLaMA/姜子牙/LLaMA 2](https://blog.csdn.net/v_JULY_v/article/details/129709105)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insert_down1,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

早退的程序员

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值