pyTorch模型部署--高并发web服务&c++&移动端ncnn
文章目录1 综述2 以python web服务的形式进行部署3 c++调用方式进行部署3.1 torchscript3.1.1 模型转换3.1.1.1 torch.jit.trace3.1.1.2 torch.jit.script3.1.2 模型保存与加载3.1.3 在c++中使用torchscript的模型(libtorch)3.2 onnx3.2.1 pyTorch模型转onnx3.2.2 使用onnx-simplifier简化模型3.3 tensorrt4 移动端进行部署4.1 ncnn4.2 pyT
原创
2022-05-03 19:54:57 ·
1953 阅读 ·
0 评论