pytorch1.3版本转C++ API(libtorch)踩坑记录

本文记录了将PyTorch模型部署到服务器,使用libtorch 1.3版本进行C++转换的过程。涉及下载安装、模型转换、CMakeList编写以及解决1.3版本遇到的编译问题。参考了相关教程,并提供了错误解决办法。
摘要由CSDN通过智能技术生成

前言

最近需要把之前写的一套模型部署到服务器,需要从pytorch->C++,参考官方提供的方案基于libtorch1.3版本。
先列几个我觉得写的比较好的教程:
https://oldpan.me/archives/pytorch-c-libtorch-inference(这篇直接拿一整个工程讲的,很全面。)
https://pytorch.apachecn.org/docs/1.2/advanced/cpp_export.html(1.2版本example官方文档的翻译版本)
1.3版本改动导致的问题:
https://www.jianshu.com/p/186bcdfe9492(必看,因为现在1.2版本的很多教程到1.3跑都有坑)

一、下载安装Libtorch

官网下完解压就好,没踩到坑。
在这里插入图片描述

二、模型转换

libtorch提供了trace和script两种方式来对nn.Module进行转换,创建ScriptModule模型,得到的.pt模型能够直接在c++程序中调用。

import torch
from XXX import Net

net = Net()
net.load_state_dict(torch.load("ModelPath", map_location="cpu"))
data = torch.rand(10, 3, 46, 22)
sc = torch.jit.trace(net, data)
sc.save("model.pt")

对于复杂模型,尤其是包含if-else各种逻辑或者非通用库的,可以参考https://blog.csdn.net/xxradon/article/details/86504906,简单sequential模型可以用上面的代码。

三、CMakeList编写

攥写内容大同小异,我参考的

评论 7
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值