Datawhale AI 夏令营 Task03 笔记

Task3:数据增强,提升模型表现

一、数据增强基础

        数据增强的目的是通过人工方式增加训练数据的多样性,从而提高模型的泛化能力,使其能够在未见过的数据上表现得更好。

        数据增强通过对原始数据进行一系列的变换操作,生成新的训练样本。这些变换模拟了真实世界中的变化,如对图像而言,数据增强包括例如视角、光照、遮挡等情况,使得模型能够学习到更加鲁棒的特征表示,但是,对于数据增强操作手段,并非是所有都是正向作用的,有些数据增强手段在与变目标任务的实际场景不符,可能会引入无关的噪音,反而使得模型难以学习到有效的特征。

        数据增强的代码

train_loader = torch.utils.data.DataLoader(
    FFDIDataset(train_label['path'].head(1000), train_label['target'].head(1000), 
            transforms.Compose([
                        transforms.Resize((256, 256)),
                        transforms.RandomHorizontalFlip(),
                        transforms.RandomVerticalFlip(),
                        transforms.ToTensor(),
                        transforms.Normalize([0.485, 0.456, 0.406], [0.229, 0.224, 0.225])
        ])
    ), batch_size=40, shuffle=True, num_workers=4, pin_memory=True
)

val_loader = torch.utils.data.DataLoader(
    FFDIDataset(val_label['path'].head(1000), val_label['target'].head(1000), 
            transforms.Compose([
                        transforms.Resize((256, 256)),
                        transforms.ToTensor(),
                        transforms.Normalize([0.485, 0.456, 0.406], [0.229, 0.224, 0.225])
        ])
    ), batch_size=40, shuffle=False, num_workers=4, pin_memory=True
)
  1. 图像大小调整:使用transforms.Resize((256, 256))将所有图像调整到256x256像素的尺寸,这有助于确保输入数据的一致性。

  2. 随机水平翻转:transforms.RandomHorizontalFlip()随机地水平翻转图像,这种变换可以模拟物体在不同方向上的观察,从而增强模型的泛化能力。

  3. 随机垂直翻转:transforms.RandomVerticalFlip()随机地垂直翻转图像,这同样是为了增加数据多样性,让模型能够学习到不同视角下的特征。

  4. 转换为张量:transforms.ToTensor()将图像数据转换为PyTorch的Tensor格式,这是在深度学习中处理图像数据的常用格式。

  5. 归一化:transforms.Normalize([0.485, 0.456, 0.406], [0.229, 0.224, 0.225])对图像进行归一化处理,这里的均值和标准差是根据ImageNet数据集计算得出的,用于将图像像素值标准化,这有助于模型的训练稳定性和收敛速度。

二、常见数据增强方法

1.几何变换

  • Resize可以将调整图像的大小。

  • RandomCropRandomResizedCrop可以随机对图像进行裁剪。

  • CenterCrop从图像的中心裁剪出指定大小。

  • FiveCropTenCrop分别裁剪出图像的四个角和中心区域。

  • RandomHorizontalFlipRandomVerticalFlip可以水平或垂直翻转图像。

  • RandomRotation可以随机旋转图像。

  • RandomAffine可以进行随机的仿射变换。

  • RandomPerspective可以进行随机的透视变换。

2.颜色变换

  • ColorJitter可以随机改变图像的亮度、对比度、饱和度和色调。

  • GrayscaleRandomGrayscale可以将图像转换为灰度图。

  • GaussianBlur可以对图像进行高斯模糊。

  • RandomInvert可以随机反转图像的颜色。

  • RandomPosterize可以减少图像中每个颜色通道的位数。

  • RandomSolarize可以反转图像中所有高于阈值的像素值。

3.自动增强

  • AutoAugment可以根据数据集自动学习数据增强策略。

  • RandAugment可以随机应用一系列数据增强操作。

  • TrivialAugmentWide可以提供与数据集无关的数据增强。

  • AugMix可以通过混合多个增强操作进行数据增强。

三、进阶数据增强方法

Mixup

        Mixup的原理是通过将两个不同的图像及其标签按照一定的比例混合,创建一个新的训练样本。这种方法的优点是可以增加训练数据的多样性,提高模型的泛化能力,并减少过拟合的风险。

Cutmix

        它通过将一个图像的一部分剪切并粘贴到另一个图像上来创建新的训练样本。同时,它也会根据剪切区域的大小来调整两个图像的标签。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值