python处理图片oom问题_解决TensorFlow GPU版出现OOM错误的问题

最新推荐文章于 2024-07-16 10:47:17 发布

如说

最新推荐文章于 2024-07-16 10:47:17 发布

阅读量848

点赞数

文章标签： python处理图片oom问题

本文链接：https://blog.csdn.net/weixin_30543595/article/details/111951086

版权

当使用TensorFlow GPU版处理大尺寸图片时，可能会遇到OOM错误。该错误源于图片尺寸过大和GPU显存不足。解决方案包括减小图片尺寸以适应GPU内存限制，或通过设置环境变量禁用GPU，改为使用CPU进行预测。

摘要由CSDN通过智能技术生成

问题：

在使用mask_rcnn预测自己的数据集时，会出现下面错误：

ResourceExhaustedError: OOM when allocating tensor with shape[1,512,1120,1120] and type float on /job:localhost/replica:0/task:0/device:GPU:0 by allocator GPU_0_bfc

[[{ {node rpn_model/rpn_conv_shared/convolution}} = Conv2D[T=DT_FLOAT, data_format="NCHW", dilations=[1, 1, 1, 1], padding="SAME", strides=[1, 1, 1, 1], use_cudnn_on_gpu=true, _device="/job:localhost/replica:0/task:0/device:GPU:0"](fpn_p2/BiasAdd, rpn_conv_shared/kernel/read)]]

Hint: If you want to see a list of allocated tensors when OOM happens, add report_tensor_allocations_upon_oom to RunOptions for current allocation info.

[[{ {node roi_align_mask/strided_slice_17/_4277}} = _Recv[client_terminated=false, recv_device="/job:localhost/replica:0/task:0/device:CPU:0", send_device="/job:localhos