Huggingface填坑:Unexpected key(s) in state_dict: “roberta.pooler.dense.weight“....
在加载已经训练好的模型时,出现问题如下:
RuntimeError: Error(s) in loading state_dict for RobertaForSequenceClassification:
Unexpected key(s) in state_dict: "roberta.pooler.dense.weight", "roberta.pooler.dense.bias".
先说原因
版本问题!
在huggingface3.1.0中,roberta相关模型的实现是11层tr
原创
2021-10-23 17:20:14 ·
2554 阅读 ·
2 评论