ffyunfeng16的博客

原创 YOLO v5 前后处理GPU加速部署

深度学习模型部署中复杂的前后处理往往部署cpu中，这一方面极大地增加模型处理耗时，另一方面挤兑了cpu计算资源，导致整个软件平台卡死，本博客针对C#编写界面软件调用C++模型接口情形，分别从C#与C++间图片传输优化、前处理GPU加速、后处理GPU加速三个角度进行优化。测试服务器：window10、Intel(R) Xeon(R) Gold 5115 CPU @ 2.40GHz、RTX2080 Ti。