在CPU中调用经GPU训练出来的模型

最新推荐文章于 2024-04-10 22:51:51 发布
最新推荐文章于 2024-04-10 22:51:51 发布
阅读量2.9k 收藏 18
点赞数 3
分类专栏： Pytorch学习 文章标签： pytorch 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44769214/article/details/108183288
版权

在进行深度学习的项目时，通常会将模型扔到服务器中计算，然后将训练好的模型保存下来，再拿到本地用CPU计算。这个时候在使用

model.load_state_dict(torch.load(model_cp)   #加载训练好的模型参数，model_cp是模型参数保存的地址

时，会报错
在这里插入图片描述
这个时候，我们需要使用如下代码：

model.load_state_dict(torch.load(model_cp,map_location = torch.device('cpu')))
修行僧yicen
关注
  • 3
    点赞
  • 踩
  • 18
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
使用GPU加速R中的期权风险分析-研究论文
05-19
在本文中，我们描述了我们在GPU上加快Heston随机波动率模型校准（一种金融应用程序）的工作。 Heston波动率模型在整个资本市场中得到广泛使用，以定价和衡量交易所交易的金融期权的市场风险。 当安装到亚分钟级别的...
在pytorch中为Module和Tensor指定GPU的例子
01-20
pytorch中的Tensor和Module可以指定gpu运行，并且可以指定在哪一块gpu上运行，方法非常简单，就是直接调用Tensor类和Module类中的 .cuda() 方法。 import torch from PIL import Image import torch.nn as nn ...
如何利用GPU训练模型并在CPU使用已经训练好的模型(PyTorch)
热门推荐
weixin_47779152的博客
09-30 1万+
如何利用GPU训练模型并在CPU使用已经训练好的模型(PyTorch) PART 1: 使用GPU运行程序的方法 a 首先确定计算机或者服务器有可以使用的GPU device = torch.device("cuda" if torch.cuda.is_available() else "cpu") device 注意： a) 只有一块GPU则使用： device = torch.device("cuda" if torch.cuda.is_available() else "cpu") b) 有多块G
如何利用在GPU上训练的模型在CPU上测试
erdaidai的博客
08-29 3856
我用OpenNMT 在服务器上训练了一个模型，保存的模型会被部署在另外一个没有GPU的机子上。问题来了，在GPU上训练的模型在CPU下是不能跑的。
【安装CPU版本的torch】
最新发布
make_progress_go的博客
04-10 273
目前在做预测任务，但是cuda算力不足以运行模型，因此想用cpu进行运行，那就需要cpu版本的torch在之前已经安装过cuda版本的torch因此自己已经知道我需要安装的torch版本是1.7.0+的那么我去conda创建虚拟环境，然后在下面网址找到cpu版本的torch轮子，注意自己需要的python版本是什么接着在创建的虚拟环境中pip install 轮子就完成了。
PyTorch用CPU加载GPU训练保存的模型
ningmengzhihe的博客
06-28 2530
PyTorch用CPU加载GPU训练保存的模型
PyTorch多GPU训练模型——使用单GPU或CPU进行推理的方法
qq_44949041的博客
09-07 2953
使用DataParallel`和DistributedDataParallel进行多GPU并行训练并报错模型，在推理阶段采用单个GPU或者CPU加载模型。加载时容易出现两种错误：IndexError: list index out of range 和 Missing key(s) in state_dict:。这时可以采用map_location=device等方法进行解决。
【pytorch】gpu训练的模型在cpu中使用
可乐大牛的博客
02-18 2417
https://www.cnblogs.com/zgqcn/p/14015832.html
CPU GPU异构并行计算技术研究.pdf
09-24
CUDA（Compute Unified Device Architecture）是基于 CPU 和 GPU 异构的常用编程模型，CUDA 编程模型直接使 用类 C 语言进行开发，大大减少了编程工作，通过简洁的代码就可以调用 GPU 进行并行计算，从而提高大规模...
CUDA平台下多核GPU高性能并行编程研究.pdf
09-25
CUDA编程模型是一个异构系统编程模型，即CPU+GPU混合编程。一个完整的CUDA程序分为CPU串行部分和GPU并行部分。CPU作为主机，GPU作为协处理器或设备。CPU负责逻辑性强的事物处理和串行计算，GPU专注于高度线程化的...
CST Studio Suite 2018 GPU加速测试报告.pdf
09-02
在本报告中，我们对 CST Studio Suite 2018 的 GPU 加速性能进行了测试，旨在评估 GPU 加速对仿真计算的影响。本报告分为三个章节，分别介绍测试环境、第一次和第二次测试结果。 在测试环境中，我们使用了特定的...
使用GPU加速通用科学计算-CUDA技术解析.pdf
09-25
“__global__” 限定符将函数声明为内核，这种函数在设备上执行，只能从 CPU 主机中调用，而“ __host__” 限定符声明函数在主机上执行且只能从主机中调用。 CUDA 技术在通用科学计算中的应用前景非常广阔，随着 ...
variationanalysis:该存储库包含Goby3的配套项目，用于训练和评估深度学习模型以调用变体。 该存储库包含Matcha框架，以帮助训练和评估使用半仿真训练的深度学习模型。 有关详细信息，请参见下面的文档
05-15
支持CPU和GPU模型训练和推断。 我们在maven上分发CPU版本，但是您可以构建项目并选择GPU maven配置文件以在适当的硬件上编译CUDA版本。 训练DL模型以调用体细胞变异的工具。 将框架用于特定领域的示例。 训练DL...
dl_inference:通用深度学习推理服务，可在生产环境中快速上线由TensorFlow，PyTorch，Caffe框架训练出的深度学习模型
03-19
通用深度学习推理服务可在生产环境中快速上线由TensorFlow，PyTorch，Caffe框架训练出的深度学习模型。 dl_inference是58同城推出的通用深度学习推理服务，使用dl_inference只需将模型文件放在指定目录然后启动服务...
deep-learning-training-gui：通过GUI（网络应用）在经过预先训练的深度学习模型上进行训练和预测模型。 没有更多的参数，没有更多的数据预处理
02-05
描述 我的目标是在不编写额外代码的情况下，通过GUI（或您可以调用Web应用程序）简化经过预训练的深度学习模型的安装和培训。 设置数据集并立即开始训练，并... 您可以在GPU或CPU上训练模型。 可以并行运行。 您将不
SeetaFace6 人脸识别Windows版本，可以直接调用
08-21
编译了CPU和GPU两个版本。可以直接离线使用 Windows 10系统下可正常调用。 GPU版本是基于CUDA12编译的。安培架构之前的显卡可以使用。也就是30系显卡之前的显卡。 Github源码：...
记录一次Yolo5 GPU模型在CPU运行问题
weixin_41810880的博客
03-04 1640
记录一次Yolo5 GPU模型在CPU运行问题 问题 Exception has occurred: RuntimeError Input type (torch.FloatTensor) and weight type (torch.HalfTensor) should be the same 输入的类型（CPU）应该和模型类型一致 （GPU） ] 问题解析 因为模型一开始是在GPU训练的 后来换了一台没有GPU只有CPU的机器使用模型 把GPU模型转为CPU模型加载使用 解决方案 #此处的
Pytorch模型在GPU上训练的参数在CPU上移植
FY_2018的博客
03-02 2042
希望将训练好的模型加载到新的网络上。如上面题目所描述的，PyTorch在加载之前保存的模型参数的时候，遇到了问题。 Unexpected key(s) in state_dict: "module.features. ...".，Expected ".features....". 直接原因是key值名字不对应。 表明了加载过程中，期望获得的key值为feature...，而不是module.features....。这是由模型保存过程中导致的，模型应该是在DataParallel模式下面，也就是..
pytorch在gpu训练好的模型再次cpu使用时需要注意dict的keys多一个module，torch.load设置map_location=‘cpu‘
weixin_43794311的博客
10-24 2104
GPU和CPU训练的模型之间不能直接加载参数 参考：https://blog.csdn.net/qq_40206371/article/details/120602334 在gpu上训练好的参数，若在cpu的机器上使用参数，加载时需要添加如下 map_location=‘cpu’ model.load_state_dict(torch.load('*.pth',map_location='cpu') 且要保证两个模型中的参数一致 例如，batchsize ......
你之前的解释是GPU上训练的模型调用了GPU相应的库，所以在CPU上不能运行，我觉得有道理，现在你怎么解释？
06-10
非常抱歉，我之前的回答有些混淆了概念。GPU上训练的模型可以在CPU上...在使用深度学习框架时，如果将代码中的设备从GPU改为CPU，框架会自动调用CPU相应的库来进行计算。因此，GPU上训练的模型也可以在CPU上进行推理。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值