torch.nn.dropout和torch.nn.dropout2d的区别

最新推荐文章于 2024-02-20 16:21:05 发布

花生是豆类

最新推荐文章于 2024-02-20 16:21:05 发布

阅读量1.7k

点赞数 2

原文链接：https://blog.csdn.net/appleml/article/details/88670580

版权

本文介绍了PyTorch中的Dropout和Dropout2d两种正则化技术。Dropout随机按0.5的概率将输入张量的所有元素置为0，而Dropout2d则按0.5的概率对二维输入张量的每个通道进行零填充。通过实例展示了它们在操作上的不同，帮助理解这两种正则化方法在神经网络中的应用。

摘要由CSDN通过智能技术生成

# -*- coding: utf-8 -*-
import torch
import torch.nn as nn
import torch.autograd as autograd

m = nn.Dropout(p=0.5)
n = nn.Dropout2d(p=0.5)
input = autograd.Variable(torch.randn(2, 6, 3)) ## 对dim=1维进行随机置为0

print(m(input))
print('****************************************************')
print(n(input))

结果是：
在这里插入图片描述
可以看到torch.nn.Dropout对所有元素中每个元素按照概率0.5更改为零，绿色椭圆，而torch.nn.Dropout2d是对每个通道按照概率0.5置为0，红色方框内。
注：只是圈除了部分。