池化层pytorch最大池化练习

神经网络构建

class Tudui(nn.Module):
    def __init__(self):
        super(Tudui, self).__init__()
        self.maxpool1 = MaxPool2d(kernel_size=3, ceil_mode=False)

    def forward(self, input):
        output = self.maxpool1(input)
        return output

Tensorboard 处理

writer = SummaryWriter("./logs_maxpool")
step = 0

for data in dataloader:
    imgs, targets = data
    writer.add_images("input", imgs, step)
    output = tudui(imgs)
    writer.add_images("output", output, step)
    step = step + 1

Padding 层

将输入图像进行填充

非线性激活:

Relu:

inplace值:0,1影响

非线性激活代码试写Sigmoid:

import torch
import torchvision
from torch import nn
from torch.nn import  Sigmoid
from torch.utils.data import DataLoader
from torch.utils.tensorboard import SummaryWriter

dataset = torchvision.datasets.CIFAR10("./data", train=False, download=True,
                                       transform=torchvision.transforms.ToTensor())

dataloader = DataLoader(dataset, batch_size=64)

class Tudui(nn.Module):
    def __init__(self):
        super(Tudui, self).__init__()
        self.Sigmoid1 = Sigmoid()

    def forward(self, input):
        output = self.Sigmoid1(input)
        return output

tudui = Tudui()

writer = SummaryWriter("./Sigmoidtest")
step = 0

for data in dataloader:
    imgs, targets = data
    writer.add_images("input", imgs, step)
    output = tudui(imgs)
    writer.add_images("output", output, step)
    step = step + 1

writer.close()

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
条带池化层(strip pooling layer)是一种用于文本分类任务的池化操作,它可以提取文本中的关键信息。在PyTorch中,可以通过自定义模块来实现条带池化层。 下面是一个简单的条带池化层PyTorch实现示例: ```python import torch import torch.nn as nn class StripPoolingLayer(nn.Module): def __init__(self, strip_size): super(StripPoolingLayer, self).__init__() self.strip_size = strip_size def forward(self, x): batch_size, seq_len, embedding_dim = x.size() num_strips = seq_len // self.strip_size # Reshape input into strips x = x.view(batch_size, num_strips, self.strip_size, embedding_dim) # Apply max pooling along the strip dimension x, _ = torch.max(x, dim=2) # Flatten the strips x = x.view(batch_size, -1) return x ``` 在这个示例中,`StripPoolingLayer`继承自`nn.Module`,并实现了`forward`方法来定义前向传播逻辑。在前向传播过程中,首先将输入张量`x`按照`strip_size`进行切分,然后对每个切分的条带应用最大池化操作,最后将所有条带展平为一个一维张量。 使用该条带池化层的示例代码如下: ```python # 创建条带池化层实例 strip_pooling = StripPoolingLayer(strip_size=3) # 输入数据 input_data = torch.tensor([ [[1, 2, 3], [4, 5, 6], [7, 8, 9], [10, 11, 12]], [[13, 14, 15], [16, 17, 18], [19, 20, 21], [22, 23, 24]] ]) # 前向传播 output = strip_pooling(input_data) print(output) ``` 这里的`input_data`是一个3D张量,表示两个样本的输入文本,每个样本有4个词,每个词的维度是3。经过条带池化层后,输出的张量`output`将是一个2D张量,表示两个样本的条带池化结果。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值