- 博客(3)
- 收藏
- 关注
RSS订阅翻译 在Bert上利用多域数据继续预训练+多域分类器：Multi-Task Deep Neural Networks for Natural Language Understanding
用于自然语言理解的多任务深度神经网络Abstract1 Introduction2 Tasks3 The Proposed MT-DNN Model3.1 The Training Procedure4 ExperimentsSNLISciTailAbstract在本文中，我们提出了一个多任务深度神经网络(MT-DNN)，用于跨多个自然语言理解(NLU)任务的学习反应。MT-DNN不仅利用了大量的跨任务数据，而且还得益于正则化的效果，这种效果导致更一般的表示，以帮助适应
2020-08-03 21:05:34
2142
翻译 Bert finetune和压缩的关系研究：Compressing BERT: Studying the Effects of Weight Pruning on Transfer Learning
压缩BERT:研究权值修剪对迁移学习的影响Abstract1 Introduction2 Pruning: Compression, Regularization,Architecture SearchCompressionRegularizationSparse Architecture Search2.1 Magnitude Weight Pruning3 Experimental Setup3.1 Implementing BERT Pruning3.3 Dis
2020-08-01 16:18:15
560
翻译 蒸馏式持续学习：Progress & Compress: A scalable framework for continual learning
Progress&Compress：一个可扩展的持续学习框架Abstract1. Introduction2. The Progress and Compress Framework2.1. Learning a new task2.2. Distillation and knowledge preservation3. Related Work4. Online EWC5. Experiments and ResultsAbstract我们介绍了一个概念上简单且可扩展的框架，用于连续学习领
2020-08-01 11:24:13
1924
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人