Transform的normalize参数含义

注：在此之前transforms.ToTensor()已经把数据落在0、1区间了

比如原来的tensor是三个维度的，值在0到1之间，那么经过以下变换之后就到了-1到1区间。

transforms.Normalize((.5,.5,.5),(.5,.5,.5))

原本以为第一个参数应该是（0，0，0）才是归一化到均值为0。但是通过transforms的源码发现：

input[channel] = (input[channel] - mean[channel]) / std[channel]

也就是说(（0,1）-0.5）/0.5=(-1,1)。

常见疑问

在pytorch的官方教程里，经常看到

normalize = T.Normalize(mean = [0.485, 0.456, 0.406], 
                         std = [0.229, 0.224, 0.225])

图片的RGB的范围不是[0,255]吗，那么图片的3个通道的像素值不应该是[0,255]吗？那么用这样的归一化参数怎么能归一化到[-1,1]呢?

解答

• 第一种情况：就是在加载数据集的时候就已经将图片转换为[0,1]，例如imageNet数据集就是在加载ImageNet的数据的时候就转换成[0,1]。

• 第二种情况：应用了torchvision.transforms.ToTensor，其作用是

   （ Converts a PIL Image or numpy.ndarray (H x W x C) in the range [0, 255] to  a torch.FloatTensor of shape (C x H x W) in the range [0.0, 1.0] ）
  

所以我们常常在代码中看到normallize在ToTensor之后

    "train": transforms.Compose([transforms.RandomResizedCrop(224),
                                 transforms.RandomHorizontalFlip(),
                                 transforms.ToTensor(),
                                 transforms.Normalize((0.5, 0.5, 0.5), (0.5, 0.5, 0.5))]),

参考自：
春江明月