BERT模型训练和使用的几种思路

思路一：将bert模型的最后几层进行fine tuning，也就是在官方给出的pretrained模型基础上，使用自己领域的数据集进行微调，得到适合于本领域的pretrained模型。

思路二：将官方给的pretrained 模型直接使用，后边结合特定的specialized 模型，例如分类器or something else，这样也是可行的。