输出已训练好的模型特定层结构时只输出Sequential()

已于 2022-03-22 22:50:54 修改
阅读量607 收藏
点赞数 2
分类专栏： Pytorch 文章标签： pytorch
于 2022-03-22 22:45:58 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zhuiyuanzhongjia/article/details/123673592
版权

目的：加载已训练好的模型，输入图片，从前向过程中提取特定层输出结果。
问题：通过模型的children()函数没法输出特定层结构
实验过程：
实验1：
def predict(img_path):

net = torch.load('./resnet18_.pth')
#net = net.to(device)
model2 = model()
#print(model2)
#print(net['net'])
model2.load_state_dict(net["net"])

print(model2.modules())

print(model2.parameters())

print(model2.named_children())

#print(model2.state_dict())

print(model2.children())
#model13 = [x for x in model2.children()]
#print(model13)
#print(model2)
resnet18_feature_extractor = models.resnet18(pretrained=True)
print(resnet18_feature_extractor.children())
#print(resnet18_feature_extractor)
resnet18_feature_extractor=nn.Sequential(*list(resnet18_feature_extractor.children())[:-1])
#model2 = nn.Sequential(*list(model2.children())[:-1])
#model2 = nn.Sequential(*list(model2.module.children())[:-1])
#print(model2)
#print(model2.modules())
print(resnet18_feature_extractor)
**以上代码加载训练好的resnet18模型，同时加载预训练的resnet18模型。两种模型理论上结构完全相同（此处假设是相同的，后续实验将发现是不同的）。**
可以看到输出结果：

<generator object Module.children at 0x7f1683e95f68>
<generator object Module.children at 0x7f1683e95f68>
Sequential(
(0): Conv2d(3, 64, kernel_size=(7, 7), stride=(2, 2), padding=(3, 3), bias=False)
(1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(2): ReLU(inplace=True)
(3): MaxPool2d(kernel_size=3, stride=2, padding=1, dilation=1, ceil_mode=False)
(4): Sequential(
(0): BasicBlock(
(conv1): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
(1): BasicBlock(
(conv1): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(5): Sequential(
(0): BasicBlock(
(conv1): Conv2d(64, 128, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(downsample): Sequential(
(0): Conv2d(64, 128, kernel_size=(1, 1), stride=(2, 2), bias=False)
(1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
……
……
(8): AdaptiveAvgPool2d(output_size=(1, 1))

**说明children()函数输出的都是生成器。同时resnet18_feature_extractor输出了除全连接层之前的所有层结构。

实验2：**
def predict(img_path):

net = torch.load('./resnet18_.pth')
#net = net.to(device)
model2 = model()
#print(model2)
#print(net['net'])
model2.load_state_dict(net["net"])

print(model2.modules())

print(model2.parameters())

print(model2.named_children())

#print(model2.state_dict())

print(model2.children())
#model13 = [x for x in model2.children()]
#print(model13)
#print(model2)
resnet18_feature_extractor = models.resnet18(pretrained=True)
print(resnet18_feature_extractor.children())
#print(resnet18_feature_extractor)
#resnet18_feature_extractor=nn.Sequential(*list(resnet18_feature_extractor.children())[:-1])
model2 = nn.Sequential(*list(model2.children())[:-1])
#model2 = nn.Sequential(*list(model2.module.children())[:-1])
print(model2)
输出结果：
<generator object Module.children at 0x7f16811f6ba0>

<generator object Module.children at 0x7f172d1ad678>
Sequential()
可以看到输出训练好的模型除全连接层之外的其他层结构时，只是输出了Sequential()，并没有得到和实验1相同的结果。
出错原因：训练好的模型和预训练的模型实际上是不一样的！！
实验室3：我们输出训练好的模型和预训练的resenet18模型结构。
model2 = model()
#print(model2)
#print(net[‘net’])
model2.load_state_dict(net[“net”])

print(model2.modules())

print(model2.parameters())

print(model2.named_children())

#print(model2.state_dict())

#print(model2.children())
#model13 = [x for x in model2.children()]
#print(model13)
print(model2)

结果如下：
DataParallel(
(module): ResNet(
(conv1): Conv2d(3, 64, kernel_size=(7, 7), stride=(2, 2), padding=(3, 3), bias=False)
(bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(maxpool): MaxPool2d(kernel_size=3, stride=2, padding=1, dilation=1, ceil_mode=False)
(layer1): Sequential(
(0): BasicBlock(
(conv1): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
(1): BasicBlock(
(conv1): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(layer2): Sequential(
(0): BasicBlock(
(conv1): Conv2d(64, 128, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(downsample): Sequential(
(0): Conv2d(64, 128, kernel_size=(1, 1), stride=(2, 2), bias=False)
(1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(1): BasicBlock(
(conv1): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(layer3): Sequential(
(0): BasicBlock(
(conv1): Conv2d(128, 256, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(downsample): Sequential(
(0): Conv2d(128, 256, kernel_size=(1, 1), stride=(2, 2), bias=False)
(1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(1): BasicBlock(
(conv1): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
……
……
(avgpool): AdaptiveAvgPool2d(output_size=(1, 1))
(fc): Linear(in_features=512, out_features=3, bias=True)
)
)
实验4：我们输出预训练的resnet18模型结构
resnet18_feature_extractor = models.resnet18(pretrained=True)
#print(resnet18_feature_extractor.children())
print(resnet18_feature_extractor)
结果如下：
ResNet(
(conv1): Conv2d(3, 64, kernel_size=(7, 7), stride=(2, 2), padding=(3, 3), bias=False)
(bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(maxpool): MaxPool2d(kernel_size=3, stride=2, padding=1, dilation=1, ceil_mode=False)
(layer1): Sequential(
(0): BasicBlock(
(conv1): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
(1): BasicBlock(
(conv1): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(layer2): Sequential(
(0): BasicBlock(
(conv1): Conv2d(64, 128, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(downsample): Sequential(
(0): Conv2d(64, 128, kernel_size=(1, 1), stride=(2, 2), bias=False)
(1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(1): BasicBlock(
(conv1): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(layer3): Sequential(
(0): BasicBlock(
(conv1): Conv2d(128, 256, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(downsample): Sequential(
(0): Conv2d(128, 256, kernel_size=(1, 1), stride=(2, 2), bias=False)
(1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(1): BasicBlock(
(conv1): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(layer4): Sequential(
(0): BasicBlock(
(conv1): Conv2d(256, 512, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(512, 512, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(downsample): Sequential(
(0): Conv2d(256, 512, kernel_size=(1, 1), stride=(2, 2), bias=False)
(1): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(1): BasicBlock(
(conv1): Conv2d(512, 512, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(512, 512, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(avgpool): AdaptiveAvgPool2d(output_size=(1, 1))
(fc): Linear(in_features=512, out_features=1000, bias=True)
)
注意实验3和实验4输出结果的最前面部分内容，一个是“DataParallel”开头，一个是“ResNet”开头，说明两个模型不是同一个模型，因为经过并行训练的模型外面套了一层。
当我们想通过children()函数输出与预训练相同的特征层结构时，需要进入到ResNet内容部分，然后再调用children()函数
解决办法：
DataParallel(
(module): ResNet(………………
我们看到ResNet前面有module
**所以我们只需要将
model2 = nn.Sequential(list(model2.children())[:-1])
改成
model2 = nn.Sequential(list(model2.module.children())[:-1])
就可以输出与预训练resnet18相同的层结构！！
Sequential(
(0): Conv2d(3, 64, kernel_size=(7, 7), stride=(2, 2), padding=(3, 3), bias=False)
(1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(2): ReLU(inplace=True)
(3): MaxPool2d(kernel_size=3, stride=2, padding=1, dilation=1, ceil_mode=False)
(4): Sequential(
(0): BasicBlock(
(conv1): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
(1): BasicBlock(
(conv1): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(5): Sequential(
(0): BasicBlock(
(conv1): Conv2d(64, 128, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(downsample): Sequential(
(0): Conv2d(64, 128, kernel_size=(1, 1), stride=(2, 2), bias=False)
(1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(1): BasicBlock(
(conv1): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(6): Sequential(
(0): BasicBlock(
(conv1): Conv2d(128, 256, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(downsample): Sequential(
(0): Conv2d(128, 256, kernel_size=(1, 1), stride=(2, 2), bias=False)
(1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(1): BasicBlock(
(conv1): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(7): Sequential(
(0): BasicBlock(
(conv1): Conv2d(256, 512, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(512, 512, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(downsample): Sequential(
(0): Conv2d(256, 512, kernel_size=(1, 1), stride=(2, 2), bias=False)
(1): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(1): BasicBlock(
(conv1): Conv2d(512, 512, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(512, 512, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(8): AdaptiveAvgPool2d(output_size=(1, 1))
)

zhuiyuan2012
关注
  • 2
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
tensosflow.keras.Sequential 的 predict（）总结
arzhh的博客
04-18 1519
def predict(self, x, batch_size=None, verbose=0, steps=None, callbacks=None, max_queue_size=10, workers=1, use_multiprocessing=False): 以数组的形式返回预测结果 参数说明： x : 输入数据。可以是numpy数组，也可以是返回（inputs, targets）的生成...
pytorch提取网络任意层输出的特征图
qq_34616741的博客
06-28 1万+
网上很多教程教我们怎么获取某一层网络输出的feature map。 原理很简单，对于我们自己写的网络其实很容易，我们只要在return 的时候返回我们想要的特征就可以了，但是对于一些别人写好的，我们又不方便改原代码的网络，提取特定层的feature map就有点麻烦了。 下面我以torchvision的vgg16为例，提取第一个全连接层输出的feature map 首先我们看看网络都由什么层 import torchvision model = torchvision.models.vgg16(pretra
神经网络搭建（1）----nn.Sequential
最新发布
qq_45452617的博客
06-06 624
因此，之后通过第一个线性层，(in_features=64 * 4 * 4, out_features=64)之后使用Flatten。函数将图像展成一列，此时图像尺寸变为：1×(64×4×4)，即1×1024。→ 变成32通道，16×16的图像 ( 经过一个5×5的卷积)→ 变成32通道，32×32的图像 (经过2×2的最大池化)→ 变成32通道，16×16的图像 (经过2×2的最大池化)→ 变成32通道，8×8的图像 ( 经过一个5×5的卷积)→ 变成64通道，8×8的图像(经过2×2的最大池化)
TensorFlow 2.0 model的predict()方法详解以及自定义predict实现预测数据和真实数据配对输出
热门推荐
yue81560的博客
03-31 4万+
TensorFlow模型训练过程中`fit()`可以直接设置`validation_data`为test数据集来测试模型的性能。但是通常我们要绘制模型的真实数据和预测数据的展示图，就需要输出模型的预测值。在使用Dataset作为模型输入时，由于其具有迭代器特征以及自动的shuffle，会使得预测值和真实值的数据排序顺序不一致，这时可以自定义predict过程，实现预测值和真实值的配对输出
keras的Sequential、Dense、Compile、predict
M_arshal_的博客
10-17 999
一、简单的代码 import tensorflow as tf import keras import numpy as np #使用keras建立模型 model = keras.Sequential([keras.layers.Dense(units=1,input_shape=[1])]) #为keras模型添加优化器和损失函数 model.compile(optimizer='sgd',loss='mean_squared_error') xs=np.array([-1.0,0.0,1.0,2.
tensorflow2 训练和预测使用不同的输出层、获取权重参数
12-19 5288
目标： 通过训练tensorflow2时设置不同的输出分支，然后可以在训练和测试时，把模型进行分离，得到训练和预测时，某些层的参数不同。 目前还没发现有更好的办法。 第二，获取训练模型的参数。 获取模型参数： 比较简单，就是调用 #获取训练后的权重参数 weigts_parm = model.get_weights() 获得的就是模型参数的每一层权重和偏置信息。 模型不同输出： 想不到更好办法，如果有人有其他办法，更好。 原理就是： 模型构建时，构建两个分支，一个用于训练train，一个用于预测pr
keras小技巧——获取某一个网络层的输出方式
12-17
在Keras库中，虽然默认提供了获取单个神经网络层中特定节点输出的功能，但并没有直接提供获取整个层输出的接口。不过，由于Keras的灵活性和高层API的设计，我们可以通过简单的方法自行实现这一功能。这篇文章主要...
pytorch在fintune时将sequential中的层输出方法,以vgg为例
09-18
在进行模型微调（finetuning）时，我们可能需要访问中间层的输出，以便进行特征提取或进一步的计算。以VGG模型为例，这是一个广泛使用的卷积神经网络，尤其适用于图像识别任务。 VGG16是VGG网络的一个变体，由16个...
基于keras输出中间层结果的2种实现方式
12-20
# 训练模型 model.fit(data, labels, epochs=10, batch_size=32) # 创建新的模型，其输出为原始模型的"Dense_1"层的输出 dense1_layer_model = Model(inputs=model.input, outputs=model.get_layer('Dense_1')....
基于pytorch中的Sequential用法说明
09-16
`Sequential` 的这种结构使得代码更加清晰，而且在处理大型网络时，能够通过层名直接访问或修改特定层的参数。 接下来，我们讨论一下PyTorch中的优化器 `torch.optim.Adam`。`Adam` 是一种自适应学习率的优化算法，...
MATLAB实现LSTM神经网络多输入单输出预测
01-09
5. **训练模型**：使用`trainNetwork`函数，传入训练数据、标签、学习率等参数，开始训练过程。记得监控验证集上的性能，防止过拟合。 6. **评估与预测**：训练完成后，使用`predict`函数在测试集上评估模型性能，...
Pytorch提取预训练模型特定中间层的输出
m0_58256026的博客
11-21 1万+
本博客整理了各种提取预训练模型中间层输出的方法，指出了不同方法的优缺点，方便大家根据自己的需要进行选择。希望帮助大家节省资料查阅的时间，顺利实现自己的任务目标。
【Tensorflow|Keras】获取模型指定层的输出
u011590738的博客
08-09 4984
【Keras】获取模型指定层的输出。主要介绍2中方式：通过指定网络层的 index 来获取特定层的输出；通过指定网络层的 name 来获取特定层的输出。
tensorflow.keras.models.Sequential——predict()、predict_classes()、predict_proba()方法的区别
chenhepg的博客
04-17 7900
@创建于：2022.04.17 @修改于：2022.04.17 文章目录1、方法介绍2、建议使用predict()，进而改写3、predict()参数介绍4、参考链接 predict() 在tf.keras.Sequential 和 tf.keras.Model模块都有效； predict_classes()、predict_proba()方法 在tf.keras.Sequential 模块下有效，在tf.keras.Model模块下无效。 1、方法介绍 predict()方法预测时，返回值是数值，表示样本
ResNet18模型程序实现
m0_59161923的博客
06-11 542
第二个卷积层，卷积层的输入通道数为outchannel，输出通道数为outchannel，卷积核的大小为3x3，填充方式为1，步幅大小为1；#第二个卷积层，卷积层的输入通道数为outchannel，输出通道数为outchannel，卷积核的大小为3x3，填充方式为1，步幅大小为1；#第一个卷积层，输入通道数为inchannel，输出通道数为outchannel，卷积核的大小为3x3，填充方式为1，步幅大小为stride。
Pytorch深度学习-----神经网络之Sequential的详细使用及实战详解
LGL
08-03 2239
"Sequential"是一个时序容器，可以将各种层按顺序添加到容器中，从而简化神经网络模型的搭建。它可以从头开始构建模型，也可以在其他容器（如Sequential、Functional、Subclass）中构建模型，还可以与其他容器组合使用。官网解释：官网的举例应用。
神经网络的输出层有哪些_跟小白一起学NLP（一）实战！Pytorch构建神经网络
weixin_39874809的博客
11-23 339
作者系北京航空航天大学人工智能方向硕士，专注于NLP方向，欢迎大家多多交流。 工欲善其事必先利其器，TensorFlow和Pytorch之争愈演愈烈，其实大可不必在框架工具选择上耗费精力，我们根据自己的喜好选择就好，毕竟只是工具而已。 今天小白就来教入门的小宝贝儿们使用Pytorch来搭建我们的第一个可以用来训练的神经网络。 如果对神经网络不太了解的小伙伴可以关注我，我会出一个系列教程的(嗯嗯，先...
python数据分析_Python数据分析、挖掘常用工具
weixin_40001048的博客
11-17 179
源/Python爱好者社区 作者/深度沉迷学习Python语言：简要概括一下Python语言在数据分析、挖掘场景中常用特性：列表(可以被修改)，元组(不可以被修改)字典(结构)集合(同数学概念上的集合)函数式编程(主要由lambda()、map()、reduce()、filter()构成)Python数据分析常用库：Python数据挖掘相关扩展库NumPy提供真正的数组，相...
python predict 返回_python - 在尝试使用Keras进行预测时返回nan
weixin_34260080的博客
01-28 989
对于一个学校项目，我正在尝试使用keras框架预测数据，但是当我尝试获取预测数据时，它会返回“nan”损失和值 .源代码：X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=5)# create modelmodel = Sequential()model.add(Dense(9...
Pytorch 输出模型各模块
08-31
### 回答1： 在 PyTorch 中，可以使用 `print()` 函数来输出模型的各个模块，以便更好地了解模型的结构和参数。一般可以使用以下代码来输出模型的各个模块。 ```python import torch import torchvision.models as models model = models.resnet18() print(model) ``` 输出结果如下： ``` ResNet( (conv1): Conv2d(3, 64, kernel_size=(7, 7), stride=(2, 2), padding=(3, 3), bias=False) (bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True) (relu): ReLU(inplace=True) (maxpool): MaxPool2d(kernel_size=3, stride=2, padding=1, dilation=1, ceil_mode=False) (layer1): Sequential( (0): BasicBlock( (conv1): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False) (bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True) (relu): ReLU(inplace=True) (conv2): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False) (bn2): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True) ) (1): BasicBlock( (conv1): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False) (bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True) (relu): ReLU(inplace=True) (conv2): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False) (bn2): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True) ) ) (layer2): Sequential( (0): BasicBlock( (conv1): Conv2d(64, 128, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False) (bn1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True) (relu): ReLU(inplace=True) (conv2): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False) (bn2): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True) (downsample): Sequential( (0): Conv2d(64, 128, kernel_size=(1, 1), stride=(2, 2), bias=False) (1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True) ) ) (1): BasicBlock( (conv1): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False) (bn1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True) (relu): ReLU(inplace=True) (conv2): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False) (bn2): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True) ) ) (layer3): Sequential( (0): BasicBlock( (conv1): Conv2d(128, 256, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False) (bn1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True) (relu): ReLU(inplace=True) (conv2): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False) (bn2): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True) (downsample): Sequential( (0): Conv2d(128, 256, kernel_size=(1, 1), stride=(2, 2), bias=False) (1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True) ) ) (1): BasicBlock( (conv1): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False) (bn1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True) (relu): ReLU(inplace=True) (conv2): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False) (bn2): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True) ) ) (layer4): Sequential( (0): BasicBlock( (conv1): Conv2d(256, 512, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False) (bn1): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True) (relu): ReLU(inplace=True) (conv2): Conv2d(512, 512, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False) (bn2): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True) (downsample): Sequential( (0): Conv2d(256, 512, kernel_size=(1, 1), stride=(2, 2), bias=False) (1): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True) ) ) (1): BasicBlock( (conv1): Conv2d(512, 512, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False) (bn1): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True) (relu): ReLU(inplace=True) (conv2): Conv2d(512, 512, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False) (bn2): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True) ) ) (avgpool): AdaptiveAvgPool2d(output_size=(1, 1)) (fc): Linear(in_features=512, out_features=1000, bias=True) ) ``` 从输出结果中可以看到，ResNet 模型有多个基本块（BasicBlock），每个基本块由多个卷积层（Conv2d）和批归一化层（BatchNorm2d）组成，其中第一个基本块的输入通道数为 64，输出通道数为 64，后续基本块的输入通道数和输出通道数分别为 64,128,256,512。同时，模型还包含一个平均池化层（AdaptiveAvgPool2d）和一个全连接层（Linear）。 ### 回答2： 在PyTorch中，输出模型中的各个模块可以通过以下方法来实现： 1. 首先，我们需要导入所需的库和模型。一般情况下，我们会使用torchvision提供的预训练模型。 准备模型并加载预训练权重： ```python import torch import torchvision.models as models # 指定模型 model = models.resnet50(pretrained=True) # 加载预训练权重 model.load_state_dict(torch.load('resnet50.pth')) ``` 2. 接下来，我们可以通过打印模型的结构来输出模型中的各个模块。 ```python # 打印模型结构 print(model) ``` 通过上述代码，我们可以看到模型中的各个模块以及其顺序，包括卷积层、全连接层、池化层等。 3. 如果我们只想输出某个特定模块的信息，我们可以通过以下代码实现： ```python # 打印某一层 print(model.layer1) ``` 上述代码会输出模型中的layer1层的相关信息。 总之，PyTorch提供了一种简单的方法来输出模型中的各个模块。这对于我们理解和调试深度学习模型非常有帮助。 ### 回答3： 在Pytorch中，我们可以通过使用`model.children()`方法来遍历和输出模型的每个模块。 首先，我们需要定义一个Pytorch模型，例如一个简单的神经网络模型： ```python import torch import torch.nn as nn class MyModel(nn.Module): def __init__(self): super(MyModel, self).__init__() self.conv1 = nn.Conv2d(3, 16, kernel_size=3, stride=1, padding=1) self.relu = nn.ReLU() self.pool = nn.MaxPool2d(kernel_size=2, stride=2) self.conv2 = nn.Conv2d(16, 32, kernel_size=3, stride=1, padding=1) self.fc = nn.Linear(32 * 8 * 8, 10) def forward(self, x): x = self.conv1(x) x = self.relu(x) x = self.pool(x) x = self.conv2(x) x = self.relu(x) x = self.pool(x) x = x.view(x.size(0), -1) x = self.fc(x) return x model = MyModel() ``` 然后，我们可以使用下面的代码输出模型的各个模块： ```python for name, module in model.named_children(): print(name, module) ``` 运行以上代码，输出结果如下： ``` conv1 Conv2d(3, 16, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1)) relu ReLU() pool MaxPool2d(kernel_size=2, stride=2, padding=0, dilation=1, ceil_mode=False) conv2 Conv2d(16, 32, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1)) fc Linear(in_features=2048, out_features=10, bias=True) ``` 可以看到，模型中有5个模块：`conv1`、`relu`、`pool`、`conv2`和`fc`。每个模块的类型和参数信息都可以通过输出得到。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值