以下来自网友的问题整理:
我使用的是MxNetCpp.h的API。
1.在cpu()下使用多线程预测能够正常运行并返回正确结果,gpu()多线程下时,使用NDrray进行图片的归一化和标准化出现内存泄漏,其他涉及到我自己写的NDArry运算也都造成了内存泄露。
2.我向通过自己编写逻辑来代替NDArray的操作,但是在图片的转置这边出现了问题,我打印出预处理后的图片数组和使用NDArray的运算结果相比,数字基本一样,但是数字的位置变了,代码在下方。
3.gpu下家在一个模型使用了1689M的显存,计算一个模型时显存到了3072M,加载两个模型并计算显存稳定在4234M计算第三个模型时out of memory程序退出,我在使用C API测试时发现计算三个模型也没有超过2g显存。
4.使用C API预测模型时,得到的置信度时10多,坐标大部分都是0
这是预处理部分代码 Code