torchscript相关知识介绍（一）

曙光_deeplove

已于 2022-08-24 14:12:28 修改

阅读量493

点赞数

分类专栏：深度学习算法部署深度学习文章标签： pytorch 部署 torchscript

于 2022-08-23 00:14:05 首次发布

本文链接：https://blog.csdn.net/yangjinyi1314/article/details/126433611

版权

深度学习算法部署同时被 2 个专栏收录

28 篇文章 16 订阅 ¥49.90 ¥99.00

订阅专栏

超级会员免费看

深度学习

46 篇文章 8 订阅

订阅专栏

本文介绍了TorchScript，PyTorch的中间表示，用于高性能部署。内容涵盖Tracing和Scripting两种转换模块的方法，讨论了何时混合使用两者，以及如何保存和加载TorchScript模型。Tracing通过记录运行时操作创建模型的静态图，而Scripting直接编译Python源代码。TorchScript使得模型能在不同环境和后端优化执行，且支持跨语言交互。

摘要由CSDN通过智能技术生成

TorchScript 是 PyTorch 模型（nn.Module的子类）的中间表示，可以在高性能环境（例如 C++）中运行。

注：onnx也是一种IR（中间表示）

将 PyTorch 模块转换为 TorchScript（我们的高性能部署运行时）的特定方法

跟踪现有模块
使用scripting直接编译模块
如何组合两种方法
保存和加载 TorchScript 模块

2、现在，让我们以正在运行的示例为例，看看如何应用 TorchScript。

简而言之，即使 PyTorch 具有灵活和动态的特性，TorchScript 也提供了捕获模型定义的工具。让我们开始研究所谓的跟踪（tracing）。

（1）Tracing Modules(跟踪模块)

class Mycell(torch.nn.Module):
    def __init__(self):
        super(Mycell,self).__init__()
        self.linear = torch.nn.Linear(4, 4)
    
    def forward(self,