神奇的深度迁移学习DDC:Deep Domain Confusion: Maximizing for Domain Invariance

本文介绍了一种解决深度学习中域适应问题的方法——Deep Domain Confusion(DDC)。通过在源域和目标域之间添加适应层并引入域混淆损失函数,使得模型在学习分类的同时减小两者分布差异。实验表明,DDC能有效提高在目标域上的识别准确性,尤其是在数据样本有限的情况下。
摘要由CSDN通过智能技术生成

1、简介

数据样本不够怎么使用深度学习?大家第一时间想到的肯定是微调已经训练好的模型,像VGG、Inception、Resnet这样的模型,但是有时我们可能会发现,有时微调后的效果并不是很好,可能会需要微调好多层才能得到较好的效果,但是这往往需要大量的样本,但当我们仅有少量或没有带标注的数据时,我们就无法有效的通过微调网络来实现对新样本的识别。存在这一问题的主要原因是源数据与目标数据之间的分布情况不同,所以,在面对新样本时,我们需要使源数据与目标数据之间具有相似的分布情况,这也就是所说的域适应问题,如图1所示。DDC这篇论文,通过在源域与目标域之间添加了一层适应层及添加域混淆损失函数来让网络在学习如何分类的同时来减小源域及目标域之间的分布差异,从而实现域的自适应,成功的解决了这类问题。


图1、域适应

2、方法

2.1 网络结构

本文所采用的网络结构如图2所示,网络包括两个流向,第一条流向的输入为源数据,是带标签的;另一条流向的输入是目标数据,包含少量的带标签数据或不包含带标签数据,两个流向的卷积神经网络共享权

评论 24
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值