onnx优化推理过程
首先表明onnx是优化的推理过程,而不是训练过程,也就是使用cpu计算的过程
1.将对应的模型结构导出保存
model = torch.load(model_path).to(torch.device("cuda"))
model.eval()
if length == 32:
data = [[[2, 16, 2874, 20, 3, 16, 36, 130, 5605, 458, 20, 3,
0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0,
原创
2021-08-08 15:45:13 ·
1792 阅读 ·
0 评论