[Pytorch] 特征标准化

 

class MeanShift(nn.Conv2d):
    def __init__(self, rgb_range, rgb_mean, rgb_std, sign=-1):
        super(MeanShift, self).__init__(3, 3, kernel_size=1)
        std = torch.Tensor(rgb_std)
        # 采用1×1卷积的形式进行标准化操作，首先建立一个三通道到三通道的恒等映射
        self.weight.data = torch.eye(3).view(3, 3, 1, 1)
        self.weight.data.div_(std.view(3, 1, 1, 1))
        # 减去均值
        self.bias.data = sign * rgb_range * torch.Tensor(rgb_mean)
        # 与上边的除操作一起，将整体除以标准差(output=(w*x+b)/std)
        self.bias.data.div_(std)
        # self.requires_grad = False
        self.weight.requires_grad = False
        self.bias.requires_grad = False

这段代码完成了特征的标准化工作。我们自定义固定的卷积核与偏置进行操作，这里标准差与均值通常来源于预训练的VGG网络。另外，注意这个模块继承2d卷积层，并未定义forward操作，而是直接继承原始卷积层的forward操作。