挪威的深林的博客

在分类问题中，最后一层一般是全连接层，然后对应标签的one-hot编码，即把对应类别的值编码为1，其他为0。这种编码方式和通过降低交叉熵损失来调整参数的方式结合起来，会有一些问题。这种方式会鼓励模型对不同类别的输出分数差异非常大，或者说，模型过分相信它的判断。但是，对于一个由多人标注的数据集，不同人标注的准则可能不同，每个人的标注也可能会有一些错误。模型对标签的过分相信会导致过拟合。

理由#有时在训练自己的模型时，如果从头开始训练自己的模型， 不但费时费力， 有时可能训练了很久， 好不容易收敛， 发现结果不是太好。如果能够基于被人 已经训练好的权重， 初始化自己的模型。那么在训练自己的模型时会事半功倍。

【代码】【Pytorch 第二讲】 如何遍历 或者查看Model权重/参数/tesnsor_size/dict_names。

导入 PyTorch# 初始化你的模型# 加载预训练权重# 或者当完成这个加载以后， 可以考虑打开 checkpoint , 看看该模型保存时，包含哪些dict keys.结果： dict_keys(['epoch', 'arch', 'state_dict',根据上面的 state_dict， 可以接下来用来将权重赋予模型Model# 将权重赋值给模型。