InternVL 部署微调实践

?PL?YuYi?

已于 2024-12-27 01:10:15 修改

阅读量428

点赞数 3

文章标签：人工智能

于 2024-12-27 01:06:26 首次发布

本文链接：https://blog.csdn.net/weixin_46829306/article/details/144754362

版权

基础任务

LMDeploy部署

网页应用部署体验

我们可以使用UI界面先体验与InternVL对话：

拉取本教程的github仓库GitHub - Control-derek/InternVL2-Tutorial：

git clone https://github.com/Control-derek/InternVL2-Tutorial.git
cd InternVL2-Tutorial

conda activate lmdeploy
python demo.py

XTuner微调实践

数据集下载

通过huggingface下载

去huggingface下载此数据集：https://huggingface.co/datasets/lyan62/FoodieQA。该数据集为了防止网络爬虫污染测评效果，需要向提交申请后下载使用。

解压下载包

开始微调

运行命令，开始微调：

xtuner train internvl_v2_internlm2_2b_lora_finetune_food --deepspeed deepspeed_zero2

微调后，把模型checkpoint的格式转化为便于测试的格式：

python xtuner/configs/internvl/v1_5/convert_to_official.py xtuner/configs/internvl/v2/internvl_v2_internlm2_2b_lora_finetune_food.py ./work_dirs/internvl_v2_internlm2_2b_lora_finetune_food/iter_640.pth ./work_dirs/internvl_v2_internlm2_2b_lora_finetune_food/lr35_ep10/

完成后文件夹如下