数据增强之MixUp

度量学习DML之Contrastive Loss及其变种_程大海的博客-CSDN博客

度量学习DML之Triplet Loss_程大海的博客-CSDN博客

度量学习DML之Lifted Structure Loss_程大海的博客-CSDN博客

度量学习DML之Circle Loss_程大海的博客-CSDN博客

度量学习DML之Cross-Batch Memory_程大海的博客-CSDN博客

度量学习DML之MoCO_程大海的博客-CSDN博客

数据增强之SpecAugment_程大海的博客-CSDN博客

数据增强之MixUp_程大海的博客-CSDN博客


 

MixUp

        论文:《mixup:Beyond Empirical Risk Minimization》

        参考:GitHub - facebookresearch/mixup-cifar10: mixup: Beyond Empirical Risk Minimization

        其中,数两个数据样本,是原始的输入数据(如图像矩阵),对应所属类别的one-hot编码,用来控制mix的强度。

        Mixup的Pytorch代码实现实例如下,mixup的官方实现代码中关于的计算以及loss的计算与下图有所不同。

        下面看一下mixup在猫狗数据集上的mix效果:

        上图中,第一行是原始数据,第二行是对第一行数据进行随机mix之后的数据,第二行的第一幅图就是将第一行的第一幅图和第二幅图进行mix之后得到的。

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Mixup是一种常用的数据增强方法,其基本思想是将两张不同的图片按照一定比例混合在一起,生成一张新的图片。这个过程中,我们需要同时对两张图片进行标签的混合,以保证模型在训练过程中对新生成的图片有足够的鲁棒性。 具体地,假设我们有两张图片$X_1$和$X_2$,对应的标签为$y_1$和$y_2$,mixup的过程如下: 1. 随机生成一个$\lambda$,满足$0 \leq \lambda \leq 1$。 2. 生成新的图片$X' = \lambda X_1 + (1 - \lambda)X_2$。 3. 生成新的标签$y' = \lambda y_1 + (1 - \lambda)y_2$。 在实际的代码实现中,我们可以将两张图片混合在一起,然后使用交叉熵损失函数计算模型的损失值。 下面是一个使用mixup进行数据增强的示例代码,其中我们使用了PyTorch深度学习框架: ``` import torch import random def mixup_data(x, y, alpha=1.0): """ 对输入的数据进行mixup操作 x: 输入的图片数据 y: 输入的图片标签 alpha: mixup操作的超参数,默认为1.0 """ # 随机生成一个比例参数 lam = torch.tensor(random.random(), dtype=torch.float32) # 将数据扩充为相同的形状 batch_size = x.size()[0] index = torch.randperm(batch_size) mixed_x = lam * x + (1 - lam) * x[index, :] # 将标签也进行混合 y_a, y_b = y, y[index] mixed_y = lam * y_a + (1 - lam) * y_b return mixed_x, mixed_y # 使用示例 img1 = torch.randn(1, 3, 224, 224) img2 = torch.randn(1, 3, 224, 224) label1 = torch.tensor([1]) label2 = torch.tensor([2]) mixed_img, mixed_label = mixup_data(torch.cat([img1, img2], dim=0), torch.cat([label1, label2], dim=0)) ``` 在这个示例代码中,我们首先随机生成了一个比例参数$\lambda$,然后将两张图片按照比例混合在一起,同时将标签也按照比例进行混合,最终得到了新的数据和标签。需要注意的是,这个过程中,我们需要将两张图片的大小扩充为相同的形状,以便进行混合操作。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值