课程笔记:池化层、线性层与激活函数

池化层(Pooling Layer):

对信号进行 “收集” 和 “总结”
“收集” 指:多变少; “总结” 指:最大值/平均值
池化操作也可以剔除冗余信息,减少后面的计算量在这里插入图片描述
用一个像素值代表4个像素值
池化层也是三种:一维池化,二维池化,三维池化

nn.MaxPool2d:
在这里插入图片描述

#池化窗口为2*2,步长也是2*2
#步长与池化窗口一样大小,为了不重叠
maxpool_layer = nn.MaxPool2d((2, 2), stride=(2, 2))

其中,return_indices用来记录池化像素最大的位置,为反池化时填入数据

nn.AvgPool2d:
在这里插入图片描述

avgpoollayer = nn.AvgPool2d((2, 2), stride=(2, 2))

最大池化会比平均池化亮(像素值大些)

反池化
在这里插入图片描述
注意在forward中要要传入indices

线性层(linear layer)

线性层又称为全连接层,其每一个神经元与上一个神经元相连实现对前一层的线性组合,线性变换
在这里插入图片描述

激活函数层(activation layer)

激活函数对特征继续非线性变换,赋予多层神经网络具有深度的意义。
nn.sigmoid
在这里插入图片描述
nn.tanh
在这里插入图片描述
nn.ReLU
在这里插入图片描述
在这里插入图片描述

  • 3
    点赞
  • 24
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
PyTorch中的三维池化层包括平均池化和最大池化。平均池化层用于对输入的特征图进行降采样,将每个池化窗口内的值取平均作为输出。而最大池化层则是取每个池化窗口内的最大值作为输出。这两种池化层都可以在三维数据上进行操作,其中的三个维度分别是通道数、高度和宽度。 在使用PyTorch中的三维池化层时,你可以使用torch.nn.MaxPool3d和torch.nn.AvgPool3d两个函数。这两个函数都接受相应的参数来定义池化窗口的大小、步幅和填充等。 请注意,上述信息的引用来源于中的内容,该文档介绍了全局池化的几种典型方式以及与PyTorch相关的函数调用。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* [PyTorch学习笔记(三)定义各种卷积池化线性激活](https://download.csdn.net/download/weixin_38706100/13744115)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] - *2* *3* [轻松学Pytorch – 全局池化层详解](https://blog.csdn.net/qq_42722197/article/details/125093447)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值