python+深度学习
python探索中遇到的问题
云用户
在计算机技术边缘摸索的菜狗
展开
-
Pytorch 多GPU运行
1、先设置当前环境可见的GPUimport osos.environ["CUDA_VISIBLE_DEVICES"]="2,3"#如希望使用2,3号GPU2、创建设备device=torch.device("cuda" if torch.cuda.is_available() else "cpu")#使用上面设定的全部GPU#device=torch.device("cuda:0" if torch.cuda.is_available() else "cpu")#若用单块GPU,指定cuda:0原创 2021-08-11 15:31:47 · 394 阅读 · 0 评论 -
model.eval()和torch.no_grad()参数更新的问题
model.eval()的作用是用于模型评估阶段,关闭模型的Batch normalization层和Dropout层,[参考]所以在model.eval()时模型参数还是会变化的[参考],梯度的计算不受影响,计算流依然会存储和计算梯度,反向传播后仍然能够更新模型的对应的权重(比如BN层的weight和bias依然能够被更新)。而torch.no_grad()的作用就是停止autograd模块的工作,即不会自动计算和存储梯度,因此能够起到加速计算过程和节省显存的作用,同时也说明了不能够进行反向传播以更原创 2021-06-16 20:44:15 · 1822 阅读 · 0 评论 -
将jupyter代码块输出内容隐藏
jupyter代码块输出时,有时输出太长会感觉不舒服,可以隐藏输出内容如图:输出很长单击左侧灰框处可将输出缩短到滚动窗口,双击则可将输出隐藏单击:双击:也可以用Cell下的All Output中的Clear将结果清除,注意这种方法会将所有方法清除...原创 2021-06-16 15:05:26 · 6994 阅读 · 1 评论 -
‘function‘ object has no attribute ‘splits‘(Torchtext加载数据集出现的问题)
‘function’ object has no attribute ‘splits’(使用torchtext加载数据集时的问题)如加载WikiText时torchtext.datasets.WikiText2.splits(TEXT)报错解决方案:在datasets前加legacy如:torchtext.legacy.datasets.WikiText2.splits(TEXT)此外在创建Field时torchtext.data.Field报module ‘torchtext.data’ has原创 2021-05-24 17:12:18 · 3604 阅读 · 0 评论