pytorch load state dict_pytorch

教程

PyTorch官方教程中文版 - PyTorch官方教程中文版​pytorch123.com Pytorch中文网 - 端到端深度学习框架平台​ptorch.com https://pytorch-cn.readthedocs.io/zh/latest/​pytorch-cn.readthedocs.io http://www.tensorflownews.com/​www.tensorflownews.com PyTorch 中文文档​www.pytorchtutorial.com

个人笔记

CSDN-专业IT技术社区-登录​blog.csdn.net

pytorch资源列表

https://github.com/bharathgs/Awesome-pytorch-list​github.com

1、.pt, .pth, .pkl的区别

pytorch常见保存模型的后缀名为.pt,.pth.pkl文件，其实这些文件没什么不同，在pytorch官方的文档代码里，有用.pt的，也有用.pth的。一般惯例是使用.pth,但是官方文档里貌似.pt更多，而且官方也不是很在意固定用一种。

pytorch 模型 .pt, .pth, .pkl的区别及模型保存方式​blog.csdn.net

2、pytorch模型相互转换使用，存储模型中字典中的key值不一样，转换成新模型

import 

3、pytorch进行多GPU并行训练

device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')
model = rtpose_model(freeze_vgg=True, reinit_vgg=False)
model = nn.DataParallel(model,device_ids=[0,1])
model = model.to(device)
model.train()
#训练的时候
CUDA_VISIBLE_DEVICES=0,1 nohup python -u train.py > train.log 2>&1 &

将并行后的网络打印出来就会发现model的state_dict的key值加上了“module”

pytorch使用记录（三） 多GPU训练​blog.csdn.net

pytorch-指定多gpu训练_人工智能_Iriving_shu的博客-CSDN博客​blog.csdn.net

4、pytorch中状态字典及模型参数

pytorch 状态字典:state_dict​blog.csdn.net

pytorch获取模型某一层参数名及参数值方式_python_脚本之家​www.jb51.net pytorch状态字典state_dict, load_state_dict torch.load 以及eval,作用，保存和加载的使用​blog.csdn.net

5、pytorch模型参数赋值

pytorch一种给模型参数赋值的方法。_人工智能_genous110的博客-CSDN博客​blog.csdn.net

保存加载模型

Mark：Pytorch 保存模型与加载模型​zhuanlan.zhihu.com

Pytorch固定部分参数(只训练部分层) - 那抹阳光1994 - 博客园​www.cnblogs.com

6、PyTorch的可重复性问题

PyTorch的可重复性问题 （如何使实验结果可复现）​blog.csdn.net

利用随机数种子来使pytorch中的结果可以复现 - 云+社区 - 腾讯云​cloud.tencent.com

def seed_torch(seed=2018):
    random.seed(seed)
    os.environ['PYTHONHASHSEED'] = str(seed)
    np.random.seed(seed)
    torch.manual_seed(seed)
    torch.cuda.manual_seed(seed)
    torch.backends.cudnn.deterministic = True

7、Pytorch小技巧的一些总结

Pytorch迁移学习小技巧 以及 Pytorch小技巧的一些总结​blog.csdn.net

8、Optimizer、数据预处理、Normalization、正则化

北大旁听 - Optimizer、数据预处理、Normalization、正则化​iblue.tech

9、使用docker实现切换cuda、torch版本

切换cuda版本的万金油​iblue.tech

10、pytorch中的学习率调整函数

pytorch中的学习率调整函数 - 慢行厚积 - 博客园​www.cnblogs.com

11、下载旧版本的torch

下载旧版本torch_兴趣老师的博客-CSDN博客_torch老版本​blog.csdn.net