【LLM】三种多轮对话微调数据格式

单轮对话的数据集构造，就是一个input、一个output，比较好理解。但是多轮对话的数据集是什么样的呢，假设我们现在有一条多轮对话数据如下：

User1：你好。
Assistant1：欢迎一起探讨大模型。
User2：大模型有哪些技术呢？
Assistant2：目前主要有预训练+微调+RLHF、RAG、Agent、多模态等。
User3：谢谢你。
Assistant3：不客气！

第一种构建方法：
User1、Assistant1、User2、Assistant2、User3的文本都视为模型的输入部分，将Assistant3的文本视为模型的预测部分。
缺点在于：没有充分利用多轮对话的训练数据，中间Assitant回复部分的信息量更丰富详细，这些数据在训练时被浪费了。

第二种构建方法：
将一条多轮对话数据，拆分成多条数据。User1(输入)、Assistant1(输出)，User1+Assistant1+User2(输入)、Assistant2(输出)，构建3个这种的QA对。
缺点在于：需要将一个包含n轮对话的数据，拆分成n条数据，前几轮对话信息被反复利用，训练方法低效

第三种构建方法