TensorRT对jpg文件进行inference
TensorRT是Nvidia推出的加速Inference的框架,有很多文章介绍了它的使用方式,也提供了一些例子。例子比较缺乏的是不能直接读取jpg图片文件进行inference,我使用opencv做了一些修改,同时可以使用INT8来做加速。
代码地址在https://github.com/caijimin/TensorRT-sampleResNet50,有啥问题可以讨论。
TensorRT是Nvidia推出的加速Inference的框架,有很多文章介绍了它的使用方式,也提供了一些例子。例子比较缺乏的是不能直接读取jpg图片文件进行inference,我使用opencv做了一些修改,同时可以使用INT8来做加速。
代码地址在https://github.com/caijimin/TensorRT-sampleResNet50,有啥问题可以讨论。