关于pytorch网络计算的顺序性问题

x = ff1(x)*0.5 + adapter_ff1(x)*0.5 + x      res:0.918

x=  ff1(x)*0.5 + x + adapter_ff1(x)*0.5     res:0.686

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
PyTorch是现代的深度学习框架,为研究人员和开发人员提供了很好的工具和支持。在PyTorch中,我们可以轻松地搭建3D卷积神经网络。 首先,我们需要导入必要的包。PyTorch包含了torch.nn模块,它提供我们搭建神经网络所需的各种工具和模块。我们还需要一个包,就是torchvision.models模块,里面包含已经搭好的模型,我们可以使用它们。 接着,我们要定义我们的3D卷积神经网络。定义方法如下: ```python import torch.nn as nn class Net(nn.Module): def __init__(self): super(Net, self).__init__() self.conv1 = nn.Conv3d(1, 64, kernel_size=3, padding=1) self.bn1 = nn.BatchNorm3d(64) self.relu1 = nn.ReLU(inplace=True) self.conv2 = nn.Conv3d(64, 128, kernel_size=3, padding=1) self.bn2 = nn.BatchNorm3d(128) self.relu2 = nn.ReLU(inplace=True) self.conv3 = nn.Conv3d(128, 256, kernel_size=3, padding=1) self.bn3 = nn.BatchNorm3d(256) self.relu3 = nn.ReLU(inplace=True) self.pool = nn.MaxPool3d((2, 2, 2)) self.fc1 = nn.Linear(256 * 8 * 8 * 8, 1024) self.fc2 = nn.Linear(1024, 10) def forward(self, x): x = self.conv1(x) x = self.bn1(x) x = self.relu1(x) x = self.conv2(x) x = self.bn2(x) x = self.relu2(x) x = self.conv3(x) x = self.bn3(x) x = self.relu3(x) x = self.pool(x) x = x.view(-1, 256 * 8 * 8 * 8) x = self.fc1(x) x = self.fc2(x) return x ``` 这里我们定义了一个名为Net的类。在__init__函数中,我们定义了三层卷积层,每一层后面跟着一个BatchNormalization层和ReLU激活层。之后我们定义一个池化层,最后是两层全连接层,其中第二层的输出是类别数目。 在forward函数中,我们把输入x通过卷积层、池化层、全连接层的顺序处理,最后输出。 接着,我们就可以对我们的三维数据进行训练了,使用PyTorch内置的optim包进行优化器的定义,再使用loss进行计算。 其中,数据需要先引入PyTorch,再进行一些简单的预处理,然后导入DataLoader中,以便进行网络训练。 ```python import torch.optim as optim net = Net() criterion = nn.CrossEntropyLoss() optimizer = optim.Adam(net.parameters(), lr=0.001) trainloader = DataLoader(train_dataset, batch_size=16, shuffle=True, num_workers=4) ``` 最后,我们就可以进行训练了。在训练过程中,我们一般选择mini-batch的方式进行,即把数据集分成若干个小批次进行训练,并在每个小批次训练完后更新网络权重。 ```python for epoch in range(10): running_loss = 0.0 for i, data in enumerate(trainloader, 0): inputs, labels = data optimizer.zero_grad() outputs = net(inputs) loss = criterion(outputs, labels) loss.backward() optimizer.step() running_loss += loss.item() if i % 100 == 99: print('[%d, %5d] loss: %.3f' % (epoch+1, i+1, running_loss/100)) running_loss = 0.0 print('Finished Training') ``` 随着迭代次数的增加,我们的网络会逐渐提高准确。在训练完整个数据集后,我们可以对网络进行评估并进行可视化分析。 以上是使用PyTorch搭建3D卷积神经网络的过程。我们可以通过PyTorch提供的工具和模块,轻松地建立自己的卷积神经网络,并进行训练、评估。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

hithithithithit

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值