TorchScript 是 PyTorch 模型(nn.Module
的子类)的中间表示,可以在高性能环境(例如 C++)中运行。
注:onnx也是一种IR(中间表示)
- 将 PyTorch 模块转换为 TorchScript(我们的高性能部署运行时)的特定方法
- 跟踪现有模块
- 使用scripting直接编译模块
- 如何组合两种方法
- 保存和加载 TorchScript 模块
2、现在,让我们以正在运行的示例为例,看看如何应用 TorchScript。
简而言之,即使 PyTorch 具有灵活和动态的特性,TorchScript 也提供了捕获模型定义的工具。 让我们开始研究所谓的跟踪(tracing)。
(1)Tracing Modules(跟踪模块)
class Mycell(torch.nn.Module):
def __init__(self):
super(Mycell,self).__init__()
self.linear = torch.nn.Linear(4, 4)
def forward(self,