1、有可能是显存不足,尝试减小batchsize
2、os.environ['TF_FORCE_GPU_ALLOW_GROWTH'] = 'true'
这个语句的意思是,TensorFlow 在分配显存的时候,设置为可以逐步分配,需要多少显存,就一点点往上添,直到够用为止。比如GPU显存为8GB,开始训练一个模型,TensorFlow 先分配100MB,然后200MB 、300MB……最后在700MB处停住了,因为实际700MB就够用了。参考自
1、有可能是显存不足,尝试减小batchsize
2、os.environ['TF_FORCE_GPU_ALLOW_GROWTH'] = 'true'
这个语句的意思是,TensorFlow 在分配显存的时候,设置为可以逐步分配,需要多少显存,就一点点往上添,直到够用为止。比如GPU显存为8GB,开始训练一个模型,TensorFlow 先分配100MB,然后200MB 、300MB……最后在700MB处停住了,因为实际700MB就够用了。参考自