解决方法如下:
[256, 512, 16, 16]的第一个参数表示batch_size的大小,第二个参数表示某层卷积核的个数,第三个参数表示图像的高,第四个参数表示图像的长
这里出现这种错误的原因时超出内存了,因此可以适当减小batch_size的大小即可解决,或者将卷积核变小,减少参数,改成[64, 256, 16, 16],其中batch_size一般最大选择256,最小64
[256, 512, 16, 16]的第一个参数表示batch_size的大小,第二个参数表示某层卷积核的个数,第三个参数表示图像的高,第四个参数表示图像的长
这里出现这种错误的原因时超出内存了,因此可以适当减小batch_size的大小即可解决,或者将卷积核变小,减少参数,改成[64, 256, 16, 16],其中batch_size一般最大选择256,最小64