YOLOV5 TensorRT部署 BatchedNMS(engine模型推理)(下)

主要是在王新宇代码的基础上改进，引入对BatchedNMS的解码

1. 修改yolov5.cpp

首先增加全局变量，名字根据转onnx时修改的节点名字来，查看onnx文件可以看到，顺序不要弄错。

const char *INPUT_NAME = “images”;
const char *OUTPUT_KTOP_NAME = “Ktop”;
const char *OUTPUT_BOXEX_NAME = “nmsBoxes”;
const char *OUTPUT_SCORE_NAME = “nmsScore”;
const char *OUTPUT_CLS_NAME = “nmsCls”;

修改cuda推理时的内存节点，采用指针引用的方式，减少内存拷贝过程，加快推理。