自然语言处理
文章平均质量分 78
Iswayzw
这个作者很懒,什么都没留下…
展开
-
微调BART进行中英文翻译任务(Pytorch代码)
BART是兼具上下文语境信息和自回归特性的Transformer,由FaceBook于2019年提出,。BART继承了Transformer全部的编码器解码器架构,能够胜任各项任务,翻译就是其中之一。本文聚焦于在英中文翻译任务中微调BART的代码实现。原创 2023-11-03 22:23:29 · 827 阅读 · 4 评论 -
微调BERT进行中文文本分类任务(Pytorch代码实现)
BERT(Bidirectional Encoder Representation from Transformers)是2018年10月由Google AI研究院提出的一种预训练模型。其模型结构由多层Transformer的Encoder堆叠而成,在大规模语料中进行预训练后,迁移到下游任务,仅进行参数微调训练,就能显著提升性能。本文聚焦于微调中文BERT进行新闻标题分类任务的代码实现。原创 2023-10-31 11:12:29 · 3581 阅读 · 14 评论