【论文研读】Data Augmentation, Network Invariances, Pre-training with Hard Examples

最新推荐文章于 2025-01-09 22:38:30 发布
最新推荐文章于 2025-01-09 22:38:30 发布
阅读量312 收藏
点赞数
分类专栏： 论文研读
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Always_ease/article/details/112132298
版权
本文探讨了用于实例分割的简单复制粘贴数据增强技术，展示其对基线方法的显著提升。同时，介绍了神经网络中学习不变性的方法——Augerino，该方法能自动发现各种变换的不变性和等变性。此外，还讨论了一种通过创建难例进行自监督预训练的方法，以改进视觉表示。这些技术在图像分类、分割任务上表现优秀，并能与多种架构和损失函数兼容。
摘要由CSDN通过智能技术生成

目录

Simple Copy-Paste is a Strong Data Augmentation Method for Instance Segmentation (arxiv 2020.12)

Learning Invariances in Neural Networks (nips2020)

Self-supervised Pre-training with Hard Examples Improves Visual Representations (arxiv 2020.12)

 

Simple Copy-Paste is a Strong Data Augmentation Method for Instance Segmentation (arxiv 2020.12)

idea：

  • perform a systematic study of the Copy-Paste augmentation (e.g., [13, 12]) for instance segmentation where we randomly paste objects onto an image
  • we show Copy-Paste is additive with semi-supervised methods that leverage extra data through pseudo labeling (e.g. self-training).

Introduction：

  • a simple strategy of randomly picking objects and pasting them at random l
最低0.47元/天 解锁文章
论文：Weakly Supervised Data Augmentation Network for Fine-Grained Visual Classification
风源-
12-24 622
本篇论文主要使用了数据增强的方法，和一般图片随机的翻转，裁剪的方法不同，本文提出了一种基于注意力机制的数据增强方法。通过基础网络提出图片的特征图确定目标的大致位置，同时根据特征图生成一个注意力图(attention maps)来表征对象的显著特征部分，随机选择一张注意力图，通过注意力剪裁和注意力删除的方式去增强这张图片（即只保留一个局部特征和只删除一个局部特征），最后原图和增强对数据都会被作为输入数据进行训练。对生成的特征图和注意力图进行BAP(双线性注意力池化)获得全部的局部特征后进行分类。 本篇文章的
Data Augmentation for Deep Learning-based Radio ModulationClassification解读（基于深度学习的无线电调制分类数据扩充）
qq_57190695的博客
11-08 1545
Data Augmentation for Deep Learning-based Radio ModulationClassification解读（基于深度学习的无线电调制分类数据扩充）
【论文阅读】Data augmentation相关论文
qq_42711123的博客
10-02 536
阅读了与代码数据增强相关的论文。
论文阅读：Learning Data Augmentation Strategies for Object Detection
j879159541的博客
06-16 742
文章目录1、论文总述2、学习数据增强这方面的学术进展3、本文对离散优化问题所使用的方法4、搜索出来的最有效的数据增强手段5、实验结果表格6、两个有趣的发现7、 Learned data augmentation improves model regularization 1、论文总述 这篇论文是在Autoaugment基础上探索目标检测里的数据增强的自动学习，Autoaugment是针对分类网络的，论文最主要的内容是先罗列了很多的数据增强手段，然后分成5个sub_policy，在这些空间中搜索最优的不同数据
论文阅读 Jointly Optimize Data Augmentation and Network Training
u013548568的博客
06-27 1058
Abstract 随机的数据扩增对于网络训练很重要，以前的方法是数据扩增和网络训练是分开的，本文设计一种自动的扩增网络来产生hard的样本扩增，augmentation网络探索了target(hourglass)网络的弱点，target网络从hard样本中去实现更加优越的性能，作者设计了reward/penalty机制来方便网络的joint训练 Introduction 传统的数据扩增的...
Data Augmentation
24小时的程序员
10-06 468
水平翻转(Horizontal flipping) 随机裁剪(Random cropping) 随机放缩(Random scaling) 颜色抖动(Color jittering) 随机平移(Random translation) 随机剪切(Random shearing) simpler model structure regularization ...
复制-粘贴大法（Copy-Paste）：简单而有效的数据增强
u012254599的博客
04-26 1816
建立有效的实例分割模型，并能处理罕见的对象类别是计算机视觉中一个重要的挑战。数据增强是应对这一挑战的一个有前途的方向。在这里，我们在实例分割方向对复制-粘贴增强进行了系统的研究，如随机地将对象粘贴到一张图像上。先前对复制粘贴的研究依赖于对周围视觉环境的建模来。然而，我们发现随机粘贴对象的简单机制已经足够好了，并且可以在强baseline之上提供稳定的增益。此外，我们通过半监督方法证明复制-粘贴带来的性能是可叠加的，该方法通过伪标签利用额外的数据(如自训练)。
Contrastive prototype network with prototype augmentation for few-shot classification
11-27
Contrastive prototype network with prototype augmentation for few-shot classification
【论文阅读笔记】Self-training with Noisy Student improves ImageNet classification
翻山越岭的那一边
10-21 751
Motivation 利用较少的标记数据来进一步利用大规模的无标记数据进行半监督/自监督学习 用teacher模型生成伪标签训练studen模型，并通过加入噪声使student模型由于teacher模型，迭代此过程以得到更优的模型 原理 基于self-training的teacher-student框架 用标记数据训练teacher模型 用teacher模型对大规模的无标记数据生成伪标签 用labelled data和具有伪标签的unlabelled data共同训练student模型 新的stu
【目标检测-复制粘贴数据增强】
小秋的博客
03-21 1276
在目标检测、分类和分割任务中，复制粘贴数据增强（Copy-Paste Data Augmentation）是一种创新的数据增广技术，它通过将训练集中的一部分物体实例复制并粘贴到其他图像的合理位置上，以生成新的训练样本。这种方法能够增加模型对不同场景下物体多样性的识别能力，并且尤其有助于提升小样本类别和边界框定位的准确性。以下是一个简化的示例，展示如何在PyTorch环境下用自定义方式实现该方法。实例分割框架是基于Mask R-CNN，使用。
copy-paste-aug:复制粘贴增强功能以​​进行细分和检测任务
04-14
复制粘贴 复制粘贴增强的非官方实现。 构建增强功能可轻松与白蛋白整合。 为COCO提供了创建兼容火炬视觉数据集的示例。 图像，遮罩和边框的核心功能已完成； 关键点尚不支持。 通常，您可以像使用其他任何专辑增强功能一样使用CopyPaste增强功能。 注意一些用法限制。 使用说明 BboxParams不能具有label_fields。 要将类标签附加到边界框，请将其直接附加到边界框坐标。 （即（x1，y1，x2，y2，class_id））。 传递给CopyPaste增强的边界框还必须在“遮罩”列表中包含相应遮罩的索引。 （即边界框看起来像（x1，y1，x2，y2，class_id，mask_index））。 举了一个COCO的例子。 CopyPaste增强功能期望使用6个关键字参数，而不是3个： output = transforms ( image = image , masks
Deep Learning的案例-YoloV5中的数据增强
longwoo1012的博客
08-09 2977
hyp参数列表 lr0: 0.01 # initial learning rate (SGD=1E-2, Adam=1E-3) lrf: 0.2 # final OneCycleLR learning rate (lr0 * lrf) momentum: 0.937 # SGD momentum/Adam beta1 weight_decay: 0.0005 # optimizer weight decay 5e-4 warmup_epochs: 3.0 # warmup epochs (frac
【Copy-Paste】《Simple Copy-Paste is a Strong Data Augmentation Method for Instance Segmentation》
bryant_meng
12-14 1015
CVPR-2021
代码复现：Copy-Paste 数据增强for 语义分割
AI数据工厂
12-29 7880
论文Simple Copy-Paste is a Strong Data Augmentation Method for Instance Segmentation非官方实现的代码。
Copy-Paste Augmentation 项目使用教程
gitblog_00008的博客
03-07 350
Copy-Paste Augmentation 项目使用教程 copy-paste-aug 项目地址: https://gitcode.com/gh_mirrors/co/copy-paste-aug 1....
论文笔记 EMNLP 2021|Machine Reading Comprehension as Data Augmentation: A Case Study on Implicit Event
o11oo11o的博客
07-19 738
Machine Reading Comprehension as Data Augmentation: A Case Study on Implicit Event Argument Extraction
Copy-Paste（CVPR 2021）原理与代码解析
00000cj的博客
02-20 1974
本文针对实例分割提出了一种新的数据增强方法Copy-Paste，可以显著增强实例分割的精度。尽管scale jittering和random resizing等数据增强方法已经用于之前的实例分割模型中，但它们本质上是通用的方法，并不是专门为实例分割设计的。
Competition Street view picture character recognition 2: Data Augmentation
Leafy's draft about ML
05-23 203
In the training process of deep learning models, data augmentation is an indispensable link. There are many existing deep learning parameters. The amount of parameters that can be trained in a general model is basically tens of millions to millions, and it
论文GridMask Data Augmentation详解
最新发布
Keep_Trying_Go的博客
01-09 461
提出目的和方法提出目的不管是图像分类还是目标检测领域，数据增强对于模型的学习，特别是对欠拟合和过拟合情况缓解非常的重要，而且很多的研究方法已经证明了数据增强给最终的实验效果带来了很大的提升。提出方法本文提出了一种新颖的数据增强方法——“网格掩码”（Grid Mask该方法通过移除信息，在各种计算机视觉任务中取得了最先进的成果。首先分析了信息丢弃的必要性。然后，指出了现有信息丢弃算法的局限性，并提出了我们自己的结构化方法，该方法既简单又非常有效。该方法基于输入图像区域的删除。
Influence of Autoencoder-Based Data Augmentation on Deep Learning-Based Wireless Communication
03-30
Autoencoder-based data augmentation can have a significant influence on deep learning-based wireless communication systems. By generating additional training data through data augmentation, the performance of deep learning models can be greatly improved. This is particularly important in wireless communication systems, where the availability of large amounts of labeled data is often limited. Autoencoder-based data augmentation techniques can be used to generate synthetic data that is similar to the real-world data. This can help to address the problem of overfitting, where the deep learning model becomes too specialized to the training data and performs poorly on new, unseen data. By increasing the diversity of the training data, the deep learning model is better able to generalize to new data and improve its performance. Furthermore, autoencoder-based data augmentation can also be used to improve the robustness of deep learning models to channel variations and noise. By generating synthetic data that simulates different channel conditions and noise levels, the deep learning model can be trained to be more resilient to these factors. This can result in improved performance in real-world wireless communication scenarios, where channel conditions and noise levels can vary widely. In conclusion, autoencoder-based data augmentation can have a significant influence on deep learning-based wireless communication systems by improving the performance and robustness of deep learning models.
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值