NLP常见任务专题介绍（4）-ConditionalGeneration和CasualLM区别

无声之钟

已于 2025-03-19 10:42:35 修改

阅读量157

点赞数

分类专栏：大模型专题系列文章标签：自然语言处理人工智能

于 2025-03-13 09:11:22 首次发布

本文链接：https://blog.csdn.net/qq_39698985/article/details/146221968

版权

98 篇文章 ¥49.90 ¥99.00

订阅专栏

在 transformers 库中，ConditionalGeneration 和 CausalLM 是两种不同类型的语言模型，各自适用于不同的任务：

类别	Conditional Generation (条件生成)	CausalLM (因果语言模型)
核心区别	依赖输入条件生成文本	只能自回归生成文本
训练方式	Encoder-Decoder（编码-解码）结构	Decoder-only（仅解码）结构
适用任务	翻译、摘要、文本填充等任务	文本生成、对话、代码生成
代表模型	`BARTForConditionalGeneration` `T5ForC`