转动态分辨率tensorRT的pytorch代码修改

1、条件分支删除
2、view不能输入-1
3、torch.tensor加@torch.jit.script修饰，入参必须是tensor类型，不能用.to(device)
4、不能tensor转python类型，改用//运算
5、reshape改为view，要加.contiguous()
6、不能用max()或min()

 

遇到问题：

Get cuda error during getBestTactic: PWN(Sigmoid_3299
解决：
try a small batch size and a small workspace size
https://github.com/NVIDIA/TensorRT/issues/851
set a smaller work space, also try run on fp16 precision
https://github.com/NVIDIA/TensorRT/issues/840

转480x270 暂不支持
转1280x720用512M workspace
转1920x1080用1G workspace
转1440x2560用4G workspace
转2160x3840用8G workspace

总结：

选择合适的workspace，过大和过小的workspace都有可能出现问题，转trt不成功或者转出来的效果不对。