书生·浦语大模型（四）XTuner 微调 LLM：1.8B、多模态、Agent【作业部分】

目录

一、基础作业（结营必做）

（一）训练自己的小助手认知（记录复现过程并截图）

1、安装环境

2、数据集准备

3、模型训练

4、模型转换、整合、测试及部署

5、显示结果

二、进阶作业【本部分暂存】

---

一、基础作业（结营必做）

（一）训练自己的小助手认知（记录复现过程并截图）

1、安装环境

2、数据集准备

3、模型训练

4、模型转换、整合、测试及部署

 

整合完成后可以查看在 final_model 文件夹下的内容：

|-- final_model/
    |-- tokenizer.model
    |-- config.json
    |-- pytorch_model.bin.index.json
    |-- pytorch_model-00001-of-00002.bin
    |-- tokenization_internlm2.py
    |-- tokenizer_config.json
    |-- special_tokens_map.json
    |-- pytorch_model-00002-of-00002.bin
    |-- modeling_internlm2.py
    |-- configuration_internlm2.py
    |-- tokenizer.json
    |-- generation_config.json
    |-- tokenization_internlm2_fast.py

5、显示结果

因为本次课程我在第一期训练营实践过很多次，发现非常容易出现过拟合的问题，还需要多多改进。下面是我的几次的效果：

可以看出，已经训练成傻子了，所以还是要控制好数据量。不断的进行完善和后续的学习。

二、进阶作业【本部分暂存】

将自我认知的模型上传到 OpenXLab，并将应用部署到 OpenXLab（优秀学员必做）

复现多模态微调（优秀学员必做）