jupyter中进行训练,代码正常但出现了错误:InternalError: Blas GEMM launch failed : a.shape=(128, 784), b.shape=(784, 512), m=128, n=512, k=784,
经过查询是因为显存不足,这一点可以从两方面进行证实
1、cmd命令行中输入nvidia-smi查看GPU程序
2、任务管理器中查看GPU所占比例
通过二者可以看到是否是因为显存不足所导致,如果是可以通过以下程序进行设置:
gpu_no = ‘0’ # or ‘1’
os.environ[“CUDA_VISIBLE_DEVICES”] = gpu_no
定义TensorFlow配置
config = tf.ConfigProto()
配置GPU内存分配方式,按需增长,很关键
config.gpu_options.allow_growth = True
配置可使用的显存比例
config.gpu_options.per_process_gpu_memory_fraction = 0.1
在创建session的时候把config作为参数传进去
sess = tf.InteractiveSession(config = config)
当然除此之外仍有其他原因,需仔细查看