项目四：论文Transitive Transfer Sparse Coding for Distant Domain

最新推荐文章于 2021-04-17 11:13:47 发布

努力努力再努力F_

最新推荐文章于 2021-04-17 11:13:47 发布

阅读量321

点赞数

分类专栏： 2021秋招找工作准备

本文链接：https://blog.csdn.net/qq_39751437/article/details/106290640

版权

2021秋招找工作准备专栏收录该内容

11 篇文章 4 订阅

订阅专栏

一、论文背景/介绍

为了解决在两个遥远的域之间进行迁移学习会产生负迁移的问题，在2019年8月到2019年11（when），我(who)作为论文的核心研究人员（where），(how)研究如何有效解决负迁移问题。在论文中，提出了一种称为传递的新颖框架传输稀疏编码（TTSC）解决传输学习有效地解决了两个遥远域之间的问题。一方面，作为稀疏编码的扩展，TTSC框架构建了一个健壮且高级的字典在三个不同的领域并同时获得三个好特征稀疏表示。另一方面，TTSC利用中间领域是转移有价值的强大桥梁源域和目标域之间的知识，实验研究证实TTSC框架在通用分类数据集上胜任于最新工作。

二、主要技术

联合字典学习与稀疏表示
三种迁移学习模型（迁移源域样本/迁移中间域样本/两个都迁移）
迁移学习
负迁移
传递式迁移学习

迁移学习

迁移学习指的是，利用数据和领域之间存在的相似性关系，把之前学习到的知识，应用于新的未知领域。迁移学习的核心问题是，找到两个领域的相似性。找到了这个相似性，就可以合理地利用，从而很好地完成迁移学习任务。比如，之前会骑自行车，要学习骑摩托车，这种相似性指的就是自行车和摩托车之间的相似性以及骑车体验的相似性。这种相似性在我们人类看来是可以接受的。

负迁移

所以，如果这个相似性找的不合理，也就是说，两个领域之间不存在相似性，或者基本不相似，那么，就会大大损害迁移学习的效果。还是拿骑自行车来说，你要拿骑自行车的经验来学习开汽车，这显然是不太可能的。因为自行车和汽车之间基本不存在什么相似性。所以，这个任务基本上完不成。这时候，我们可以说出现了负迁移(Negative Transfer)。

传递式迁移学习

在这里插入图片描述

三、取得成果

一篇ICASSP 2021 第一作者

四、项目问题总结

论文主要目标

有效地解决DDTL问题需要实现两个主要目标。

第一个目标是构建一个强大的基于三个域的高级词典同时获得三个良好的稀疏表示。
第二个目标是实现有用的实例选择策略基于健壮的字典和稀疏表示从源域到目标选择有用的实例。

论文主要思路

我们由两个领域的相似性推广开来，其实世间万事万物都有一定的联系。表面上看似无关的两个领域，它们也可以由中间的领域构成联系。也就是一种传递式的相似性。例如，领域A和领域B从表面上看，完全不相似。那么，是否可以找到中间的一个领域C，领域C与A和B都有一定的相似性？这样，知识原来不能直接从领域A迁移到领域B，加入C以后，就可以先从A迁移到C，再从C迁移到B。这就是传递迁移学习。