记录一下DSFD源码中widerface_val.py的调试过程

最新推荐文章于 2023-01-18 16:25:10 发布

还好0000

最新推荐文章于 2023-01-18 16:25:10 发布

阅读量299

点赞数 1

文章标签： python

本文链接：https://blog.csdn.net/weixin_45075887/article/details/115256208

版权

本文记录了在调试DSFD源码widerface_val.py过程中遇到的问题，包括CUDA资源错误、类型转换错误和权限错误。通过设置torch.set_grad_enabled(False)解决了CUDA内存不足的问题，对特定代码段进行修改以处理Tensor到numpy转换的TypeError，并调整文件权限以避免PermissionError。最终成功运行并进行评估。

摘要由CSDN通过智能技术生成

首先测试widerface_test，因为test数据集比val小。

修改数据集，选择测试test：

出现问题：

1.CUDA out of time：

搜寻无果，冒险和demo.py一样，在test_widerface()首行加入了：torch.set_grad_enabled(False) ，结果这个报错没有了。

torch.set_grad_enabled(False)

2.TypeError: can't convert cuda:0 device type tensor to numpy.：

与demo.py出现类似问题，还在寻找方案。

解决方案是和demo.py一样，在widerface_val中修改：

while detections[0,i,j,0] >= 0.01:
    score = detections[0,i,j,0]
    score = score.cpu().numpy()            #修改
    pt = (detections[0, i, j, 1:]*scale).cpu().numpy()

不报错了。