BERT的MLMhead
from transformers.models.bert.modeling_bert import BertOnlyMLMHeadfrom transformers import BertConfig, BertPreTrainedModel, BertModelclass BertLMHeadModel(BertPreTrainedModel): def __init__(self, config): super().__init__(config) sel.
原创
2021-12-06 20:15:07 ·
1843 阅读 ·
0 评论