OpenMMLab开营二期

低成本微调垂直领域专属ChatGPT

1.大模型微调常见方法和步骤

关于FinetuningPipeline

1. Pre-training——Generic Data
2. Continual Pre-training——Domain-Specific Data
3. Supervised Finetuning——Instructional Promt Data
4. RLHF

LMFlow:

1. Continual Pre-training
2. Task Tuning
3. INstruction Tuning
4. Parameter-Efficient Tuning
5. Aligment Tuning
6. Large Model Inference

2.低成本微调大模型的全流程框架LMFlow

容易扩展支持海量模型、支持任意定制化数据上的快速训练、轻量级、低成本。

3.一种全自动可扩展的模型评测基准LMFlow Benchmark

Human Evaluation
Rouge_L
Accuracy
GPT-4 as a judge
Negative Log Likelihood(ours)

4.一种全新、高效、稳定的对其算法RAFT