【InternLM】XTuner 微调个人小助手认知

微调之前

进行模型微调

修改配置文件，然后启动微调

cd /root/InternLM/XTuner
conda activate xtuner
xtuner train ./internlm2_chat_1_8b_qlora_alpaca_e3_copy.py

然后进行模型转换，将原本使用 Pytorch 训练出来的模型权重文件转换为目前通用的 HuggingFace 格式文件。

cd /root/InternLM/XTuner
conda activate xtuner0121

# 先获取最后保存的一个pth文件
pth_file=`ls -t ./work_dirs/internlm2_chat_1_8b_qlora_alpaca_e3_copy/*.pth | head -n 1`
export MKL_SERVICE_FORCE_INTEL=1
export MKL_THREADING_LAYER=GNU
xtuner convert pth_to_hf ./internlm2_chat_1_8b_qlora_alpaca_e3_copy.py ${pth_file} ./hf

由于微调之后的模型只是adapter部分，还需要和原模型进行合并。

cd /root/InternLM/XTuner
conda activate xtuner0121

export MKL_SERVICE_FORCE_INTEL=1
export MKL_THREADING_LAYER=GNU
xtuner convert merge /root/InternLM/XTuner/Shanghai_AI_Laboratory/internlm2-chat-1_8b ./hf ./merged --max-shard-size 2GB

合并完成后启动对话

模型略微有点过拟合，后续会采用7b模型进行微调尝试。