tf2 调用tf.keras.layers.Conv2D函数时报错,检查了一下参数,shape和type都没问题,看了一下报错说是cuDNN不能初始化,先开始觉得是cuDNN版本是不是不匹配了,但是检查了一下发现没问题。
之后发现是输入的数据太大,导致显存不足。
在代码前加上:
#用于显存修改
config = tf.compat.v1.ConfigProto(allow_soft_placement=True)
config.gpu_options.per_process_gpu_memory_fraction = 0.3
tf.compat.v1.keras.backend.set_session(tf.compat.v1.Session(config=config))
问题解决