论文笔记:Label Efficient Learning of Transferable Representations across Domains and Tasks

一个使用了对抗网络和semantic transfer的迁移学习网络,用于图片分类任务。
在这里插入图片描述
整个网络的目标函数:
在这里插入图片描述
1 . 数据分为源域S的标签数据;目标域T的无标签数据;目标域T的有标签数据。
2. 蓝色的网络是基本的分类学习网络,使用S数据学习得到;
3. 绿色网络是针对域T域数据学习网络,初始化为S网络的参数;
4. 对抗网络:使用Multi-layer domain adversarial loss。D(.)用来区别数据来源于S还是T的无标签,E()是一个embedding,用来使得S的数据映射到T中,是的D无法区别。网络不仅是下一层使用上一层的数据来来源,同时使用了S或T相应的E。loss为:
在这里插入图片描述
5. 语义相似网络:用来融合T的标签数据和T的无标签数据,其实就是融合T的标签数据和映射后的S数据,由于都有标签,因此方便相似对的映射。loss为:
在这里插入图片描述
6. 学习后相当于S数据和T的有标签数据都映射到了T的无标签数据空间。从而让分类网络的参数适合于无标签数据。因此对于无标签数据也可以很好的学习。

  • 1
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值