yihong23的博客

原创 一文读懂BERT模型

语言表示模型 BERT 详解摘要：在自然语言处理（NLP）领域，BERT（Bidirectional Encoder Representations from Transformers）是近几年出现的、影响深远的创新模型之一。自 2018 年由谷歌团队发布以来，BERT 为众多 NLP 任务设定了新的基准。BERT旨在通过在所有层中对左右上下文进行联合条件反射，从未标记的文本中预训练深度双向表示。因此，预训练的BERT模型可以通过一个额外的输出层进行微调，从而为广泛的任务(如问答和语言推理)创建最先进的