【术语3-微调篇】打败99%小白！一学就会的大模型专业术语，读这一篇就够了

缩写	英文名	中文名	简要说明
BERT	Bidirectional Encoder Representations from Transformers	双向编码器表示变压器	预训练深度双向语言模型，使用 Transformer 架构来更好地理解语言上下文。
GPT	Generative Pre-trained Transformer	生成预训练变压器	一个自回归语言模型，使用预训练和微调来生成文本。
T5	Text-to-Text Transfer Transformer	文本到文本转换变压器	将所有NLP任务视为文本间转换问题的统一框架。
RoBERTa	Robustly Optimized BERT Pretraining Approach	鲁棒优化BERT预训练方法	一种改进的BERT预训练方法，通过优化模型的训练过程来提高性能。
XLNet	-	XLNet	结合了自回归语言模型和自编码语言模型的优点，采用置换语言模型预训练方法。
ALBERT	A Lite BERT	精简版BERT	BERT的轻量级版本，通过参数共享和降低模型大小来提高训练效率。
ULMFiT	Universal Language Model Fine-tuning	通用语言模型微调	一种有效的迁移学习方法，通过微调预训练的语言模型来适用于各种下游任务。
ELMo	Embeddings from Language Models	来自语言模型的嵌入	一种基于字符的深层双向语言模型，可以生成词语的上下文相关表示。
MTL	Multi-Task Learning	多任务学习	同时训练一个模型来执行多种任务，以提高模型在各个任务上的性能。
CLS	[CLS] Token (used in BERT)	[CLS] 标记（在BERT中使用）	在BERT训练中使用的特殊标记࿰