Leung WaiHo-CSDN博客

原创论文笔记：Incremental Unsupervised Domain-Adversarial Training of Neural Networks

论文地址：https://ieeexplore.ieee.org/document/9216604源码地址：尚未开源1 Main Idea本文站在增量的角度，认为模型是迭代地适应到新域。作者用了现有的无监督域自适应算法，来识别相对于他们真实标签有较高置信度的目标域样本。用了不同的方法分析模型的输出，以决定候选的样本。选择出来的样本用自标记（self-labeling）的方法加到源域训练集，重复这个过程直至所有的目标域样本都打上了标签。《A DIRT-t approach to unsu..

2021-03-28 10:05:28 491

原创论文笔记：Incremental Adversarial Domain Adaptation for Continually Changing Environments

论文地址：http://ieeexplore.ieee.org/document/8460982源码地址：尚未开源1 Mean Idea本文提出一种基于对抗训练的life-long、增量式域自适应方法，无监督地对齐一系列中间域（a series of intermediate domains），这些域的数据分布逐渐偏离带标签的源域。该方法主要解决从白天到黑夜的域自适应问题，不同时间，目标的外表会发生较大的变化。2 MethodIADA把接连到来的数据视为增量变化域的数据流，编码模..

2021-03-27 20:54:41 425

原创论文笔记：Continual Adaptation of Visual Representations via Domain Randomization and Meta-learning

论文地址：https://arxiv.org/abs/2012.04324源码地址：尚未开源1 Core Idea序列化地用不同性质的样本来训练模型，会导致灾难性遗忘（catastrophic forgetting）。作者提出域泛化（domain randomization），运用图像处理，随机化当前域的数据分布。并以这个处理结果为基础，设计一个元学习（meta-learning）策略，有一个正则化项惩罚所有和模型从当前域到不同“辅助”元域的迁移有关的损失（penalizes any los..

2021-03-27 12:14:13 970

原创论文笔记：Gradient Regularized Contrastive Learning for Continual Domain Adaptation

论文地址：https://arxiv.org/abs/2007.12942代码地址：尚未开源1 Main Idea（梯度正则化）1）令梯度不损害源域特征的判别能力，反过来提高模型对目标域的自适应能力；2）约束梯度不提高在旧目标域上的分类损失，使得模型在旧目标域上的表现得到保持，同时对新目标域有很好的适应能力。在本文中，作者认为保留源域特征的可分辨能力可以提高模型对不同目标域的适应能力，也即由于源域的标签是已知的，因此从源域中学到的分辨能力可以引导对所有域的适应。多任务学习即源域上的分..

2021-03-26 08:44:41 722 2

原创论文笔记：Domain-Adaptive Pedestrian Detection in Thermal Images

论文地址：https://ieeexplore.ieee.org/document/8803104源码地址：尚未开源1 Key Idea红外图像的标注很少，想要将大量带有bbox标注的彩色图像适应到红外域，以训练行人检测器。为了达到这个目的，将含有一对图像转换器的域自适应模块和红外域的行人检测器结合起来，并端到端地训练网络。图像转换器可以看成是一种数据增强的工具。为了辅助训练，作者介绍了一种在真实红外图像和合成红外图像之间定义的检测损失函数。当前的问题是目标域内的bbox标注数量有限，D..

2021-03-26 08:37:07 329

原创论文笔记：Cross Domain Adaptation for on-Road Object Detection Using Multimodal Structure-Consistent Imag

论文地址：https://ieeexplore.ieee.org/document/8803261源码地址：尚未开源1 Main Idea基于GAN的方法尽管可视化的效果不错，但是当面临很大或很复杂的域漂移时，在保存图像-目标以及维持结构一致性上表现没有那么好，例如从白天到黑夜。在本文中，作者介绍了图像转换结构（image-translation-structure）以及循环结构一致性（cycle-structure consistency），以生成多种且结构不变的域间转换图像。作者提出一个..

2021-03-26 08:32:24 229

原创论文笔记：IR2VI: Enhanced Night Environmental Perception by Unsupervised Thermal Image Translation

论文地址：https://ieeexplore.ieee.org/document/8575315源码地址：尚未开源1 Main Idea背景增强（context enhancement）是夜景视觉的一种重要应用，特别是在没有任何灯的情况下。作者提出红外-视觉算法，一种基于对抗生成网络（GANs）的无监督图像转换（img translation）方法。现在的一些基于GANs的图像转换算法有两大挑战：1）错误映射（incorrect mapping）；2）缺乏小细节（lack of fine ..

2021-03-26 08:28:50 237

原创论文笔记：Harmonizing Transferability and Discriminability for Adapting Object Detectors

论文地址：https://ieeexplore.ieee.org/document/9157147源码地址：https://github.com/chaoqichen/HTCN1 Main Idea过往的方法：对抗自适应是很大地提高了特征的迁移能力，但目标检测器的判别能力没有过多的探究。本文把重点放在如何调和迁移能力和判别能力上。但在域自适应领域，迁移能力和判别能力可能会存在矛盾，因为各域图像会有物体的复杂组合以及不同的布局。研究者都普遍认为对抗自适应会带来不错的迁移能力，但它会带来一定..

2021-03-26 07:56:51 777 1

原创论文笔记：iFAN: Image-Instance Full Alignment Networks for Adaptive Object Detection

论文地址：https://arxiv.org/abs/2003.04132源码地址：尚未开源1 Main Idea半监督DA的关键点是when、where、how使用对抗学习法，作者提出iFAN通过准确对齐图像级和实例级特征分布：1）image-level：multi-scale feat通过训练对抗的域分类器粗糙地对齐in a hierarchically-nested fashion；2）完整的instance-level对齐：用深度语义信息+elaborate的实例表征建立cat...

2021-03-25 12:12:57 540

原创论文笔记：Synthetic-to-Real Domain Adaptation for Object Instance Segmentation

论文地址：https://ieeexplore.ieee.org/document/8851791源码地址：尚未开源1 Main Idea首先，作者提出的方法经使用合成数据集的标注数据训练后可以检测和分割目标，然后用一个feature adaptation module来减少数据分布的不匹配问题，其中FAM分为三个层次：global-level、local-level、subtle-level（精细）。作者使用深度残差网络，以及一个RoI采样器，基于base feat map生成region..

2021-03-25 12:06:09 574

原创论文地址：SCL

lunwendizhi1 Mean Idea提出一种基于堆叠互补损失（SCL）的梯度分离方法，以目标检测为主要任务（CE和smooth l1 regression），在网络的不同阶段剪成多个辅助损失，以使用互补信息（目标域图像），使得模型参数能更高效地适应源域和目标域。梯度分离应用在检测网络和不同objective的上下文子网络之间，来强制网络学习更有判别力的信息。以前的方法：对于主要任务的传统训练方法主要采用源域的信息来最大化likehood，但是忽略了网络浅层的信息，导致不同域间的一种不充分..

2021-03-25 11:58:00 369

原创论文笔记：Multi-Adversarial Faster-RCNN for Unrestricted Object Detection

论文地址：https://ieeexplore.ieee.org/document/9010003源码地址：https://github.com/He-Zhenwei/MAF1 Core Idea多对抗Faster RCNN潜在地解决了域自适应在特征上的不一致，本文的方法包括三部分：1）分层域特征对齐模块；2）信息不变性尺度降低模块（information invariant scale reduction module）来resize分层的feat map；3）聚合proposal fea..

2021-03-25 11:45:02 502

原创论文笔记：Strong-Weak Distribution Alignment for Adaptive Object Detection

论文地址：https://arxiv.org/abs/1812.04798源码地址：https://github.com/VisionLearningGroup/DA_Detection1 Motivation对于目标检测来説，在全局水平上完全地匹配完整的源域和目标域的数据分布，表现可能会不好，因为各域有多种的景观布局以及不同的目标组合。换句话说，局部特征上的强匹配，例如纹理、颜色等，可能会起作用，因为它不会改变概念层次的语义。这激发了作者基于强局部对齐及弱全局对齐提出新的方法。Key...

2021-03-25 11:39:37 745

原创论文笔记：Few-shot Adaptive Faster R-CNN

论文地址：https://ieeexplore.ieee.org/document/8953674源码地址：尚未开源1 Background of Paper只需要很少的目标域图像，且这些图像的bbox标注很有限，用这些数据和源域数据一起实现小样本的域自适应目标检测。（提出疑点：小样本不应该是源域数据也很少吗？）为了解决这个问题，首先用配对的方法，将源域数据和目标域数据弄成一对对，降低数据量少带来的影响；然后提出一个双层的模块，来让源域中预训练的模型，适应到目标域中：1）基于图像级自适应模块..

2021-03-25 11:26:42 302

原创论文笔记：Adapting Object Detectors via Selective Cross-Domain Alignment

论文地址：https://ieeexplore.ieee.org/document/8953252源码地址：https://github.com/xinge008/SCDA1 Focus of Attention 将关注焦点放在可能包含感兴趣目标的局部区域上，先找出要找的地方，再想怎么对齐。过往的工作把输入图像看作是一个整体，却忽略了目标的局部性质，且降低img-level的域间差异会遇到根本性的困难（结构和外表上的变化），也即局部目标没有得到完全的照顾。因此将自适应过程的焦点...

2021-03-25 11:15:26 577

原创论文笔记：Domain Adaptive Faster R-CNN for Object Detection in the Wild

1 解决方法 Image-level + Instance-level两个DA模块基于H-divergence理论，并通过对抗性训练的方式学一个域分类器来实现，最小化两个层次的domain discrepancy。域分类器可以进一步用一致性正则项来强化，以学习一个domain-invariant的RPN。2 Distribution Alignment with Hdivergence H-divergence用来衡量不同分布的两堆samples的divergence，假...

2021-03-25 10:49:35 645

原创论文笔记：Exploring Object Relation in Mean Teacher for Cross-Domain Detection

1 Mean Teacher 用半监督学习的方法模仿无监督DA。且domain gap可以很自然地通过teacher-student的一致性正则化来跨过去。提出带Object Relation的Mean Teacher，将其与teacher和student模型的一致性损失相结合，首先学习捕捉teacher和student间成对区域的相似性的relation graphs，然后由三个一致性正则项来优化整体结构1）region-level；2）inter-graph；3）intra-grap...

2021-03-25 10:38:38 1145

原创论文笔记：A Robust Learning Approach to Domain Adaptive Object Detection

1 以前的方法在目标域中有监督地fine-tuning /无监督地学习跨域表征。前者需要额外的带标签实例数据，后者消除了两个新挑战带来的cost：①source/target域的表征要在某个空间上匹配 ②要定义一个特征匹配的机制（MMD、H-divergence、adversarial learning）2 观察尽管在源域训练好的模型在目标域上测试会有次优解，但目标检测会有一定准确率。检测出来的目标可以用来retrain模型，但又因为model在target do...

2021-03-25 10:30:31 1282

原创 Python之sys模块笔记

sys._getframe().f_code.co_filename #当前文件名，可以通过__file__获得sys._getframe(0).f_code.co_name #当前函数名sys._getframe(1).f_code.co_name　#调用该函数的函数的名字，如果没有被调用，则返回<module>，貌似call stack的栈低sys._getframe().f_lineno #当前行号...

2020-08-17 10:24:32 113

原创 Inception-ResNet模型框架（PyTorch）

I. 前言在Inception-v4, Inception-ResNet and the Impact of Residual Connections on Learning一文中，除了提出Inception Network的v4版本，还与ResNet进行结合，提出了Inception-ResNet-v1及Inception-ResNet-v2两个模型.II. 模型构架图【注】Inception-ResNet-v1及Inception-ResNet-v2的总体构架一致，但各部分的结构不尽相同，现予以

2020-07-31 14:48:29 2503 3

原创 ResNet模型框架（PyTorch）

I. 前言ResNet，论文地址：Deep Residual Learning for Image Recognition，该论文提出了一种残差网络结构，将网络每一部分的输入经shortcut connection，与第二（三）个卷积核的结果相加，然后一并进行ReLU生成总的激活值. 每一部分的残差网络结构如下图所示.【注】左侧的building block是RestNet-34的，右侧的是ResNet-50/101/152. 其中，shortcut connection有三种方案，A）在维度上升的

2020-07-31 08:49:33 981

原创 AlexNet+VGGNet模型框架（PyTorch）

I. 前言AlexNet，论文地址：ImageNet Classification with Deep Convolutional Neural Networks.VGGNet，论文地址：Very Deep Convolutional Networks for Large-Scale Image Recognition. 论文中提出了六种模型，其中较为有名的即是VGG-16及VGG-19.II. 模型构架图AlexNet-VGGNet【注】最后两列分别是VGG-16及VGG-19，标黄

2020-07-29 22:35:02 173

原创 Inception-v4（GoogLeNet-v4）模型框架（PyTorch）

前言：Inception-v4，又名GoogLeNet-v4，论文地址：https://arxiv.org/pdf/1602.07261.pdf，该论文将Inception-v3与Inception-v4相比，此外还与ResNet结合，提出了Inception-ResNet-A及Inception-ResNet-B两个模型。本文只针对Inception-v4部分的模型框架进行复现。模型构架图各部分构架图Stem【注】标“V”即valid-padding，padding=0，否则为same-

2020-07-29 22:14:28 5237

原创机器学习、深度学习视频课程资料汇总

I 李宏毅机器学习深度学习课程（学习中）视频课程地址：https://www.bilibili.com/video/BV1JE411g7XF思维导图：http://speech.ee.ntu.edu.tw/~tlkagk/courses_ML20.html作业范例：https://github.com/Iallen520/lhy_DL_HwII 吴恩达机器学习课程（待学习）视频课程地址：https://www.bilibili.com/video/BV164411S78V中文笔记：http

2020-07-09 10:16:07 703

原创 PyTorch学习笔记：Torchvision数据增强

I. 前言训练一个优秀的神经网络需要上万的图片数据，而当自己目前的数据集数据不足时（只有几百张图片数据），可以使用数据增强（Data Augmentation）方法来扩充自己的图片数据集。Trochvision是PyTorch框架下的一个图像处理库，其中torchvision.transforms包中的函数可以对数据集中的图片进行处理，以实现数据增强的效果.II. Anaconda环境下安装见https://blog.csdn.net/weixin_41978493/article/details/1

2020-07-08 09:21:18 1832

原创 Windows10_Anaconda_pytorch1.5.1_torchvison0.6.1_cuda10.2

1、安装pytorchAnaconda Navigator下安装即可2、安装torchvisonAnaconda Prompt中运行：pip install torchvision==0.1.8

2020-07-04 16:34:12 471

weixin_41978493的博客