卷积神经网络中的内存问题
在创建卷积神经网络时,遇到了内存溢出的问题,困扰我比较久的有两个。1 中间产生的tensor过大导致内存不够核心错误信息如下:(1) Resource exhausted: OOM when allocating tensor with shape[4000,256,127,127] and type float on /job:localhost/replica:0/task:0/device:GPU:0 by allocator GPU_0_bfc [[node Conv2D_1
原创
2021-08-13 22:33:17 ·
1848 阅读 ·
0 评论