迁移学习

最新推荐文章于 2024-09-24 09:40:31 发布

TL**

最新推荐文章于 2024-09-24 09:40:31 发布

阅读量165

点赞数 1

文章标签：人工智能深度学习迁移学习

本文链接：https://blog.csdn.net/weixin_44259121/article/details/114873893

版权

该文探讨了迁移学习在图像识别中的应用，主要分为基于样本和基于特征的两种方法。在基于样本的迁移中，通过TrAdaBoost算法提高源域中猫的权重以适应仅含猫的目标域。基于特征的迁移则利用MMD方法构造新特征，最小化分布差异。

摘要由CSDN通过智能技术生成

迁移学习分类概述

**基于样本的迁移**
- 若我们考虑从一个拥有猫和狗的带标签数据集（源域）中学习到有关猫的知识，去进行一个仅含有猫的数据集（目标域）识别，则需要赋予源域中的猫以更高的权重，尽量消除狗的影响。代表方法： TrAdaBoost，论文地址：[Boosting for transfer learning](http://citeseerx.ist.psu.edu/viewdoc/download;jsessionid=F67C3B221B00345D6D2E145CBF9E8008?doi=10.1.1.76.7577&rep=rep1&type=pdf)
**基于特征的迁移**
- 以最小化边缘分布及条件分布为目的构造新特征，引用Pan在迁移学习综述中的描述。
- 特征构造所需经典方法（MMD）：[Integrating structured biological data by Kernel MaximumMean Discrepancy](https://www.sci-hub.ren/10.1093/bioinformatics/btl242)

基于样本的迁移

若我们考虑从一个拥有猫和狗的带标签数据集（源域）中学习到有关猫的知识，去进行一个仅含有猫的数据集（目标域）识别，则需要赋予源域中的猫以更高的权重，尽量消除狗的影响。代表方法： TrAdaBoost，论文地址：Boosting for transfer learning

基于特征的迁移

以最小化边缘分布及条件分布为目的构造新特征，引用Pan在迁移学习综述中的描述。

假设我们有个文件分类的任务，当source文件和target文件对应不同的topic的时候，我们可以理解为source和target domain的边缘概率分布不同。
同样是这个文件分类问题，假设source和target的文件的label有两类（语文，数学）。source里语文的概率高达90%，target里语文的概率只有20%。那么我们可以理解为source和target的learning task条件概率分布是不同的。