bert_ner_punc 优点: 多任务学习和对抗训练相结合,可以从额外的实体识别任务中学习任务不变信息。 实体识别任务通过多任务学习用作辅助任务,以进一步提高标点预测任务的性能。对抗性损失用于防止共享空间包含任务特定信息。 实现方法: 两个任务特定分类器和一个对抗性任务鉴别器组成。任务共享层来自预训练的BERT模型,任务特定的分类器分别用于标点预测任务和实体识别任务。