【深度学习地学应用|滑坡制图、变化检测、多目标域适应、感知学习、深度学习】跨域大尺度遥感影像滑坡制图方法:基于原型引导的领域感知渐进表示学习(五)

【深度学习地学应用|滑坡制图、变化检测、多目标域适应、感知学习、深度学习】跨域大尺度遥感影像滑坡制图方法:基于原型引导的领域感知渐进表示学习(五)

【深度学习地学应用|滑坡制图、变化检测、多目标域适应、感知学习、深度学习】跨域大尺度遥感影像滑坡制图方法:基于原型引导的领域感知渐进表示学习(五)



欢迎铁子们点赞、关注、收藏!
祝大家逢考必过!逢投必中!上岸上岸上岸!upupup

大多数高校硕博生毕业要求需要参加学术会议,发表EI或者SCI检索的学术论文会议论文。详细信息可关注V “学术会议小灵通”或参考学术信息专栏:https://blog.csdn.net/2401_89898861/article/details/145551342


跨域大尺度遥感影像滑坡制图方法:基于原型引导的领域感知渐进表示学习

3. 方法论

3.2. 框架

在这里插入图片描述

图1展示了所提出的PG-DPRL框架的概览。首先,LM-Net在源领域上进行预训练。基于目标领域与源领域之间存在不同的领域差异的观察,DPRL方法采用近远策略,依次对所有目标领域 T T T 与源数据 D s D_s Ds 进行对齐。具体来说,它从与源领域最接近的目标领域开始,逐步向领域偏移最大的目标领域推进。因此,对于 Z Z Z 个目标领域,DPRL方法在 Z Z Z 个适应步骤中进行训练。在每个DPRL步骤中,进行领域选择,以基于领域差异决定进行领域适应(DA)的目标领域,这些差异是根据每个领域中源原型和目标样本之间的表示发散计算的。接下来,在选定的目标领域上运行PGAL算法,在表示层次上对齐两个领域并生成可靠的伪标签。之后,通过对两个集合的联合与减法操作更新当前状态中的领域数据,DPRL方法进入下一步适应。

**如图2所示,PGAL算法明确地将目标表示驱动向源类别质心,通过跨领域原型约束调整分类边界以实现类别分离。**通过依次从最近的领域到最远的领域执行DA,所提出的方法可以逐步减少所有目标领域的领域偏移。此外,它可以高效地引导领域偏移较大的目标领域的适应,同时促进其表示对齐。
在这里插入图片描述

3.3. 预训练

给定源数据 x s x_s xs及其标签图 y s y_s ys,源领域 D s D_s Ds的高度为 H H H,宽度为 W W W,LM-Net可以通过最小化预测与地面真实值之间的差异,以监督方式在源领域上进行训练,从而执行像素级的LM(滑坡制图)。这一过程是通过优化标准的交叉熵(CE)损失函数 L C E L_{CE} LCE实现的:

在这里插入图片描述其中, K K K 为分类类别数, p s , q k p_{s,q_k} ps,qk代表第 q q q 个像素属于第 k k k 类的softmax概率,即 p s = F c ( F r ( x s ) ) p^s=F_c(F_r(x^s)) ps=Fc(Fr(xs)),而
y q s ∈ 0 , 1 y^s_q ∈{0, 1} yqs0,1是第 q q q 个像素的对应一热编码向量,表示该像素的类别标签。

基于对同一类别表征的观察倾向于聚类在一起,即类别原型,即表示每个类别的质心,都可以计算出来嵌入根据ground-truth标签的样本(Zhang et al., 2021a):

在这里插入图片描述其中, δ k ( D s ) δ_k(D_s) δk(Ds) 是源领域 D s D_s Ds中第 k k k 类的原型, I I I 是指示函数, [ F r ( x s ) ] q [F_r(x_s)]_q [Fr(xs)]q是输入训练样本 x s x_s xs 的表示图中第 q q q 个像素的表示向量。之后,生成的原型可以视为数据分布的代表特征

3.4. 领域选择

由于DPRL采用基于源数据和目标数据之间领域差异的近远表示对齐策略,因此需要进行领域选择以确定目标领域进行适应。在第 z z z 步DPRL中,领域选择在源领域和目标领域之间执行,即 D ^ s z \hat D^z_s D^sz T ^ z \hat T_z T^z,其中对于初始的源领域和目标领域集合, D ^ s 0 = D s \hat D^0_s=D_s D^s0=Ds T ^ 0 = T \hat T_0=T T^0=T。为此,定义一个表示发散函数 ϕ k ( x t , D ^ s z ) ϕ_k(x_t, \hat D^z_s) ϕk(xt,D^sz)来衡量样本 x t x_t xt和源领域 D ^ s z \hat D^z_s D^sz中第 k k k 类类别原型之间的表示差异,具体如下:在这里插入图片描述其中, ∥ ⋅ ∥ 2 ∥⋅∥_2 2 表示L2距离函数, δ k ( D ^ s z ) δ_k(\hat D^z_s) δk(D^sz)是源领域 D ^ s z \hat D^z_s D^sz中第 k k k 类的原型, [ F r ( x s ) ] q [F_r(x_s)]_q [Fr(xs)]q是通过样本 x t x_t xt 获得的表示图中第 q q q 个位置的表示。接下来,我们采用类别级表示发散的Shannon熵来衡量每个目标样本的聚类不确定性,该不确定性根据样本的类别内聚类属性表示如下:

在这里插入图片描述其中, U n ( x t , D ^ s z ) U_n(x_t, \hat D^z_s) Un(xt,D^sz)表示当前状态下样本 x t x_t xt的聚类不确定性。较高的值表明与 D ^ s z \hat D^z_s D^sz之间的领域差异较大,因为偏向的模型往往会生成分散的表示,从而降低类别分离度。之后,可以从 T ^ z \hat T_z T^z中选择差异最小的目标领域,具体表示如下:

在这里插入图片描述
其中, E x t − D t i U n ( x t , D ^ s z ) E_{x_t-D^i_t}U_n(x_t, \hat D^z_s) ExtDtiUn(xt,D^sz)估计目标领域 D t i D^i_t Dti与源领域 D ^ s z \hat D^z_s D^sz之间的表示分布差异, Q z Q_z Qz表示在第 z z z 步DPRL中选择的目标领域。

下节请参考:【深度学习地学应用|滑坡制图、变化检测、多目标域适应、感知学习、深度学习】跨域大尺度遥感影像滑坡制图方法:基于原型引导的领域感知渐进表示学习(六)

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

努力毕业的小土博^_^

您的鼓励是我创作的动力!谢谢!

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值