基于GPU版本tensorflow2.0模块训练VOC数据集时,出现如下问题:
ResourceExhaustedError: OOM when allocating tensor with shape[25088,4096] and type float on
经查阅资料,意思为显卡内存不足。分析原因是数据量过大导致。
解决办法:将卷积层 Conv2 的卷积核个数大幅度削减之后,即可。
基于GPU版本tensorflow2.0模块训练VOC数据集时,出现如下问题:
ResourceExhaustedError: OOM when allocating tensor with shape[25088,4096] and type float on
经查阅资料,意思为显卡内存不足。分析原因是数据量过大导致。
解决办法:将卷积层 Conv2 的卷积核个数大幅度削减之后,即可。