pytorch模型中间层特征的提取

参考pytorch论坛:How to extract features of an image from a trained model

定义一个特征提取的类:

#中间特征提取
class FeatureExtractor(nn.Module):
    def __init__(self, submodule, extracted_layers):
        super(FeatureExtractor,self).__init__()
        self.submodule = submodule
        self.extracted_layers= extracted_layers

    def forward(self, x):
        outputs = []
        for name, module in self.submodule._modules.items():
            if name is "fc": x = x.view(x.size(0), -1)
            x = module(x)
            print(name)
            if name in self.extracted_layers:
                outputs.append(x)
        return outputs
#输入数据
test_loader=DataLoader(test_dataset,batch_size=1)
img,label=iter(test_loader).next()
img, label = Variable(img, volatile=True), Variable(label, volatile=True)
#特征输出
myresnet=resnet18(pretrained=False)
myresnet.load_state_dict(torch.load('cafir_resnet18_1.pkl')) 
exact_list=["conv1","layer1","avgpool"]
myexactor=FeatureExtractor(myresnet,exact_list)
x=myexactor(img)
#特征输出可视化
import matplotlib.pyplot as plt
for i in range(64):
    ax = plt.subplot(8, 8, i + 1)
    ax.set_title('Sample #{}'.format(i))
    ax.axis('off')
    plt.imshow(x[0].data.numpy()[0,i,:,:],cmap='jet')
    plt.show()

整体代码(还未测试)

 

# -*- coding: utf-8 -*-

import torch
import torchvision
import torchvision.transforms as transforms
import torchvision.models as models
import matplotlib.pyplot as plt
import numpy as np
import torch.nn as nn
import torch.nn.functional as F

transform = transforms.Compose(
    [transforms.ToTensor(),
     transforms.Normalize((0.5, 0.5, 0.5), (0.5, 0.5, 0.5))])

'''trainset = torchvision.datasets.CIFAR10(root='./data', train=True,
                                        download=True, transform=transform)
trainloader = torch.utils.data.DataLoader(trainset, batch_size=4,
                                          shuffle=True, num_workers=2)'''

testset = torchvision.datasets.CIFAR10(root='./data', train=False,
                                       download=True, transform=transform)
testloader = torch.utils.data.DataLoader(testset, batch_size=1,
                                         shuffle=False, num_workers=0)

classes = ('plane', 'car', 'bird', 'cat',
           'deer', 'dog', 'frog', 'horse', 'ship', 'truck')



class FeatureExtractor(nn.Module):
    def __init__(self, submodule, extracted_layers):
        super(FeatureExtractor,self).__init__()
        self.submodule = submodule
        self.extracted_layers= extracted_layers
 
    def forward(self, x):
        outputs = []
        for name, module in self.submodule._modules.items():
            if name is "fc": x = x.view(x.size(0), -1)
            x = module(x)
            print(name)
            if name in self.extracted_layers:
                outputs.append(x)


net=models.resnet18(pretrained=True).eval()
inputs, labels = iter(testloader).next()
exact_list=["conv1","layer1","avgpool"]
myexactor=FeatureExtractor(net,exact_list)
x=myexactor(inputs)
for i in range(64):
    ax = plt.subplot(8, 8, i + 1)
    ax.set_title('Sample #{}'.format(i))
    ax.axis('off')
    plt.imshow(x[0].data.numpy()[0,i,:,:],cmap='jet')
    plt.show()

 

 

 

 

 

 

  • 8
    点赞
  • 55
    收藏
    觉得还不错? 一键收藏
  • 21
    评论
### 回答1: PyTorch 提供了许多预训练模型,如 AlexNet、VGG、ResNet、Inception 等,这些模型都在 ImageNet 数据集上进行了预训练。我们可以利用这些预训练模型提取图像特征,以便用于图像分类、目标检测等任务。 以下是一个示例代码,利用 ResNet-50 模型提取图像特征: ```python import torch import torchvision.models as models import torchvision.transforms as transforms # 加载预训练模型 resnet = models.resnet50(pretrained=True) # 定义数据预处理 transform = transforms.Compose([ transforms.Resize(256), transforms.CenterCrop(224), transforms.ToTensor(), transforms.Normalize(mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225]) ]) # 加载图像 img = Image.open('test.jpg') # 预处理图像 img_tensor = transform(img) # 增加一个维度,变成 4D 张量 img_tensor.unsqueeze_(0) # 特征提取 features = resnet(img_tensor) # 打印特征向量 print(features) ``` 其中,我们首先加载了 ResNet-50 模型,并定义了一个数据预处理方法 `transform`,然后加载了一张测试图片,并将其转化为 PyTorch Tensor 格式,并增加了一个维度,变成 4D 张量。最后,我们通过调用 `resnet` 模型提取特征,得到一个 1x1000 的张量,我们可以将其用于图像分类等任务中。 ### 回答2: PyTorch是一个功能强大的机器学习库,其中包含许多用于预训练模型特征提取工具。 预训练模型是在大规模数据集上进行训练并保存的模型,可以用来处理各种任务。PyTorch提供了许多经过预训练的模型,如ResNet、Inception、VGG等,这些模型具有很强的特征提取能力。 使用PyTorch进行预训练模型特征提取很简单。首先,我们需要下载和加载所需的预训练模型PyTorch提供了一种方便的方式,可以直接从网上下载预训练模型并加载到我们的程序中。 加载预训练模型后,我们可以通过简单地将数据传递给该模型提取特征。这通常涉及将输入数据通过模型的前向传播过程,并从中获取感兴趣的特定层或层的输出。 例如,如果我们想要提取图像的特征,我们可以使用ResNet模型。我们可以将图片传递给该模型,然后从所需的层中获取输出。这些特征可以用来训练其他模型,进行图像分类、目标检测等任务。 PyTorch的预训练模型特征提取功能很受欢迎,因为它不需要从头开始训练模型,而是利用了已经学习到的知识。这样可以节省时间和计算资源。此外,预训练模型通常在大规模数据集上进行了训练,因此其特征提取能力很强。 总而言之,PyTorch提供了简单且强大的预训练模型特征提取工具,可以用于各种任务。通过加载预训练模型提取特征,我们可以快速构建和训练其他模型,从而提高模型性能。 ### 回答3: PyTorch 提供了许多预训练模型,它们通过在大规模数据集上进行训练,能够有效捕捉到图像或文本等数据的特征。预训练模型特征提取是指利用这些模型提取输入数据的特征表示。 在 PyTorch 中,我们可以使用 torchvision 包提供的预训练模型。这些模型包括常用的卷积神经网络(如 ResNet、VGG)和循环神经网络(如 LSTM、GRU)等,它们在 ImageNet 数据集上进行了大规模的训练。 为了使用预训练模型进行特征提取,我们可以简单地加载模型提取输入数据的中间层输出。这些中间层的输出通常被认为是数据的有意义的特征表示。例如,对于图像分类任务,我们可以加载预训练的 ResNet 模型,并通过前向传播得到图像在最后一层卷积层的输出(也称为特征图)。这些特征图可以被视为图像的高级特征表示,可以用于后续的任务,如图像检索或分类等。 通过使用预训练模型进行特征提取,我们可以获得一些优势。首先,预训练模型经过大规模数据集的训练,能够捕捉到通用的特征表示。这样,我们无需从零开始训练模型,可以在少量的数据上进行微调或直接使用。其次,特征提取能够减少计算量和内存消耗,因为我们只需运行输入数据的前向传播,并截取中间层的输出,而无需通过后向传播进行反向更新。 总之,PyTorch 提供了方便的接口和预训练模型,使得特征提取变得简单且高效。通过使用预训练模型,我们可以获得数据的有意义的特征表示,并在后续的任务中得到更好的性能。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 21
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值