Pytorch加载预训练权重的方法(1)

2. 预训练网络和目标网络的网络层名称不同，结构相同

直接加载时以上问题都会导致报错，下面的代码可以实现正确加载，只加载网络层名称和权重形状一致的层，不一致时保留目标网络的。

import torch
from typing import OrderedDict


def load\_pretrained(dict1: OrderedDict, dict2: OrderedDict):
    """
 加载预训练权重，键（网络层名）或值（网络权重）的形状不一致时保留dict2的键值
 :param dict1: 预训练网络的权重
 :param dict2: 目标网络的权重
 :return: dict2
 """
    assert isinstance(dict1, OrderedDict), f"dict1's type is {type(dict1)},not OrderedDict"
    assert isinstance(dict2, OrderedDict), f"dict2's type is {type(dict2)},not OrderedDict"
    for k, v in dict1.items():
        if k in dict2 and v.shape == dict2[k]:
            dict2[k] = v
    return dict2


device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')
prenet = torch.load('预训练权重文件的路径\*.pt')
prenet_state_dict = prenet.state_dict() # 该行不固定，不同的权重文件保存的键值对不同，要选出模型的权重
net = Net() # 目标网络
net_dict = load_pretrained(prenet_state_dict , net.state_dict())
net.load_state_dict(net_dict, strict=False)
net.to(device)

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数Linux运维工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年Linux运维全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Linux运维知识点，真正体系化！

由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新

如果你觉得这些内容对你有帮助，可以添加VX：vip1024b （备注Linux运维获取）

最全的Linux教程，Linux从入门到精通

======================

1. linux从入门到精通(第2版)

2. Linux系统移植

3. Linux驱动开发入门与实战

4. LINUX 系统移植 第2版

5. Linux开源网络全栈详解 从DPDK到OpenFlow

第一份《Linux从入门到精通》466页

====================

内容简介

====

本书是获得了很多读者好评的Linux经典畅销书**《Linux从入门到精通》的第2版**。本书第1版出版后曾经多次印刷，并被51CTO读书频道评为“最受读者喜爱的原创IT技术图书奖”。本书第﹖版以最新的Ubuntu 12.04为版本，循序渐进地向读者介绍了Linux 的基础应用、系统管理、网络应用、娱乐和办公、程序开发、服务器配置、系统安全等。本书附带1张光盘，内容为本书配套多媒体教学视频。另外,本书还为读者提供了大量的Linux学习资料和Ubuntu安装镜像文件，供读者免费下载。

本书适合广大Linux初中级用户、开源软件爱好者和大专院校的学生阅读，同时也非常适合准备从事Linux平台开发的各类人员。

需要《Linux入门到精通》、《linux系统移植》、《Linux驱动开发入门实战》、《Linux开源网络全栈》电子书籍及教程的工程师朋友们劳烦您转发+评论

一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**
[外链图片转存中…(img-e54tbTUM-1712857169219)]