Task3:数据增强,提升模型表现
一、数据增强基础
数据增强的目的是通过人工方式增加训练数据的多样性,从而提高模型的泛化能力,使其能够在未见过的数据上表现得更好。
数据增强通过对原始数据进行一系列的变换操作,生成新的训练样本。这些变换模拟了真实世界中的变化,如对图像而言,数据增强包括例如视角、光照、遮挡等情况,使得模型能够学习到更加鲁棒的特征表示,但是,对于数据增强操作手段,并非是所有都是正向作用的,有些数据增强手段在与变目标任务的实际场景不符,可能会引入无关的噪音,反而使得模型难以学习到有效的特征。
数据增强的代码
train_loader = torch.utils.data.DataLoader(
FFDIDataset(train_label['path'].head(1000), train_label['target'].head(1000),
transforms.Compose([
transforms.Resize((256, 256)),
transforms.RandomHorizontalFlip(),
transforms.RandomVerticalFlip(),
transforms.ToTensor(),
transforms.Normalize([0.485, 0.456, 0.406], [0.229, 0.224, 0.225])
])
), batch_size=40, shuffle=True, num_workers=4, pin_memory=True
)
val_loader = torch.utils.data.DataLoader(
FFDIDataset(val_label['path'].head(1000), val_label['target'].head(1000),
transforms.Compose([
transforms.Resize((256, 256)),
transforms.ToTensor(),
transforms.Normalize([0.485, 0.456, 0.406], [0.229, 0.224, 0.225])
])
), batch_size=40, shuffle=False, num_workers=4, pin_memory=True
)
-
图像大小调整:使用
transforms.Resize((256, 256))
将所有图像调整到256x256像素的尺寸,这有助于确保输入数据的一致性。 -
随机水平翻转:
transforms.RandomHorizontalFlip()
随机地水平翻转图像,这种变换可以模拟物体在不同方向上的观察,从而增强模型的泛化能力。 -
随机垂直翻转:
transforms.RandomVerticalFlip()
随机地垂直翻转图像,这同样是为了增加数据多样性,让模型能够学习到不同视角下的特征。 -
转换为张量:
transforms.ToTensor()
将图像数据转换为PyTorch的Tensor格式,这是在深度学习中处理图像数据的常用格式。 -
归一化:
transforms.Normalize([0.485, 0.456, 0.406], [0.229, 0.224, 0.225])
对图像进行归一化处理,这里的均值和标准差是根据ImageNet数据集计算得出的,用于将图像像素值标准化,这有助于模型的训练稳定性和收敛速度。
二、常见数据增强方法
1.几何变换
-
Resize
可以将调整图像的大小。 -
RandomCrop
和RandomResizedCrop
可以随机对图像进行裁剪。 -
CenterCrop
从图像的中心裁剪出指定大小。 -
FiveCrop
和TenCrop
分别裁剪出图像的四个角和中心区域。 -
RandomHorizontalFlip
和RandomVerticalFlip
可以水平或垂直翻转图像。 -
RandomRotation
可以随机旋转图像。 -
RandomAffine
可以进行随机的仿射变换。 -
RandomPerspective
可以进行随机的透视变换。
2.颜色变换
-
ColorJitter
可以随机改变图像的亮度、对比度、饱和度和色调。 -
Grayscale
和RandomGrayscale
可以将图像转换为灰度图。 -
GaussianBlur
可以对图像进行高斯模糊。 -
RandomInvert
可以随机反转图像的颜色。 -
RandomPosterize
可以减少图像中每个颜色通道的位数。 -
RandomSolarize
可以反转图像中所有高于阈值的像素值。
3.自动增强
-
AutoAugment
可以根据数据集自动学习数据增强策略。 -
RandAugment
可以随机应用一系列数据增强操作。 -
TrivialAugmentWide可以提供与数据集无关的数据增强。
-
AugMix可以通过混合多个增强操作进行数据增强。
三、进阶数据增强方法
Mixup
Mixup的原理是通过将两个不同的图像及其标签按照一定的比例混合,创建一个新的训练样本。这种方法的优点是可以增加训练数据的多样性,提高模型的泛化能力,并减少过拟合的风险。
Cutmix
它通过将一个图像的一部分剪切并粘贴到另一个图像上来创建新的训练样本。同时,它也会根据剪切区域的大小来调整两个图像的标签。