could not convert batchDescriptor{count:0 feature_map_count:2048 spatial: 7 7 value_max:0.000000 layout: BatchDepthYX} to cudnn tensor descriptor: CUDNN_STATUS_BAD_PARAM
原因
这种问题比较会出现在Kreas、tensorflow等(例如我的问题出现在RRPN_tensorflow)的训练过程中,其原因是样本量太少(例如样本量为1),其不满足n%batch_size>num_gpu(n为样本数量),所以会出现这个问题。
解决办法
- 保证满足n%batch_size>num_gpu
- 改源码,因为源码中_len_(self)是向上取整的,这就导致了有些时候是没有数据集,所以可以修改源码为向下取整,如:
(self.n+self.batch_size-1)//self.batch_size
替换为(self.n)//self.batch_size
[1]:https://blog.csdn.net/hzh_0000/article/details/80393759