摘要:
本文介绍了使用微调技术进行自然语言生成的方法。通过使用transformers库中的AutoModelForCausalLM和AutoTokenizer,可以在多节点环境下进行微调。
训练数据的准备
你需要将所有样本放到一个列表中并存入json文件中。每个样本对应一个字典,包含id和conversation,其中后者为一个列表。示例如下所示:
[
{
"id": "identity_0",
"conversations": [
{
"from": "user",
"value": "你好"
},
{
"from": "assistant",
"value": "我是一个语言模型,我叫通义千问。"
}
]
}
]
微调方法分析
微调脚本能够帮你实现三种微调方法:
- 全参数微调
- LoRA
- Q-LoRA
【全参数微调在训练过程中更新所有参数。】
"全参数微调"是一种在机器学习中