# 冻结 BERT 模型的参数
for name, param in self.bert.named_parameters():
if not name.startswith("bert.encoder.layer.11"):
param.requires_grad = False
冻结bert最后四层以外的参数
最新推荐文章于 2023-01-12 23:05:50 发布
# 冻结 BERT 模型的参数
for name, param in self.bert.named_parameters():
if not name.startswith("bert.encoder.layer.11"):
param.requires_grad = False