代码torch.backends.cudnn.benchmark = true的作用及意义
在很多情况下我们都能看到代码里有这样一行:torch.backends.cudnn.benchmark = true而且大家都说这样可以增加程序的运行效率。那到底有没有这样的效果,或者什么情况下应该这样做呢?解决办法总的来说,大部分情况下,设置这个 flag 可以让内置的 cuDNN 的 auto-tuner 自动寻找最适合当前配置的高效算法,来达到优化运行效率的问题。一般来讲,应该遵...
转载
2019-04-23 10:13:46 ·
3641 阅读 ·
0 评论