算法
cll911
这个作者很懒,什么都没留下…
展开
-
同样的代码 CPU 可以收敛,GPU却不能收敛
@TO同样的代码 CPU 可以收敛,GPU却不能收敛1,网上很多说是代码有问题,但是我是直接将cpu的代码复制过来,改了device,还是不行;2,将 tensorflow-gpu,CUDA,cuDNN版本匹配起来 之后就解决了。原创 2022-01-19 15:04:02 · 1144 阅读 · 0 评论 -
卷积神经网络输出结果都一样
调试卷积神经网络的时候,发现错误率一直不变,然后依次排查发现:1,将每个样本的输出打印出来发现,每个样本的输出是相同的;2,然后从输出逆流依次打印每步的输出,发现中间的卷积之后的结果都是负数,然后经过relu之后,都成了0.3,然后百思不得其解。最后将L2正则化注释掉或者将L2正则化的权重调小一点就可以了。因为过大的权重会使得卷积神经网络中的参数都接近0,从而导致最终的基本上都是一样的。最后强调解决办法:最后将L2正则化注释掉或者将L2正则化的权重调小一点就可以了...原创 2020-05-14 17:50:21 · 9876 阅读 · 3 评论