配置
相关结构体及函数
测试单张图片循环
测试batch
根据参考,以及前面对single图片进行测试,写了batch inference,但运行测试后发现,与python不同,转化到C++后,出现了问题。很奇怪,用同样的模型,在python中single就是(1*200*6),batch就自动会变成(batch*200*6),为啥转到C++api中就少了一维。着实让人费解。有其他加速方法的希望能告知一下,谢谢~
目前,不知如何解决,希望知道解决方法的不吝赐教~
根据参考,以及前面对single图片进行测试,写了batch inference,但运行测试后发现,与python不同,转化到C++后,出现了问题。很奇怪,用同样的模型,在python中single就是(1*200*6),batch就自动会变成(batch*200*6),为啥转到C++api中就少了一维。着实让人费解。有其他加速方法的希望能告知一下,谢谢~
目前,不知如何解决,希望知道解决方法的不吝赐教~