pytorch模型保存方式-时间测试-inference--torch.squeeze() 和torch.unsqueeze()的相关用法

pytorch中cp27m与cp27mu的区别

https://blog.csdn.net/dlhlSC/article/details/88533376

我们在下载pytorch安装包时，会发现CUDA9.0有py27_gpu版有两个whl下载文件，分别是：

cu90/torch-0.3.0.post4-cp27-cp27mu-linux_x86_64.whl
cu90/torch-0.3.0.post4-cp27-cp27m-linux_x86_64.whl

cp27m是ucs2，cp27mu是ucs4。
UCS2规定每个字符占用2个字节，UCS4规定每个字节占用4个字符，都是UNICODE的编码形式。
一般选UCS2的版本即可。
 

 

Pytorch中的模型保存

torch.save()实现对网络结构和模型参数的保存。有两种保存方式：一是保存年整个神经网络的的结构信息和模型参数信息，save的对象是网络net；二是只保存神经网络的训练模型参数，save的对象是net.state_dict()。

 

保存和加载整个模型

torch.save(model_object, ‘model.pkl’)
model = torch.load(‘model.pkl’)

仅保存和加载模型参数(推荐使用)

torch.save(model_object.state_dict(), ‘params.pkl’)
model_object.load_state_dict(torch.load(‘params.pkl’))

 

有时候是.pth

有时候是.pkl

其实模型内部还是一样，主要是怎么保存的

 

对应上面两种保存方式，重载方式也有两种。

对应第一种完整网络结构信息，重载的时候通过

torch.load(‘.pth’)

直接初始化新的神经网络对象即可。

 

对应第二种只保存模型参数信息，需要首先导入对应的网络，

通过

net.load_state_dict(torch.load(‘.pth’)

完成模型参数的重载。在网络比较大的时候，第一种方法会花费较多的时间。

 

Pytorch中 torch.squeeze() 和torch.unsqueeze()的相关用法

https://blog.csdn.net/qian2213762498/article/details/86097912

 

Pytorch中时间测试

start = time.time()
result = model(input)
end = time.time()

torch.cuda.synchronize()
start = time.time()
result = model(input)
torch.cuda.synchronize()
end = time.time()

一共上述两种测试时间的方式，正确的方式是第二种，为什么是这样呢？在pytorch里面，程序的执行都是异步的。如果采用第一种方式，测试的时间会很短，因为执行完end=time.time()程序就退出了，后台的cu也因为python的退出退出了，如果采用第二种方式，代码会同步cu的操作，等待gpu上的操作都完成了再继续成形end = time.time()