【深度学习地学应用|滑坡制图、变化检测、多目标域适应、感知学习、深度学习】跨域大尺度遥感影像滑坡制图方法:基于原型引导的领域感知渐进表示学习(五)
【深度学习地学应用|滑坡制图、变化检测、多目标域适应、感知学习、深度学习】跨域大尺度遥感影像滑坡制图方法:基于原型引导的领域感知渐进表示学习(五)
文章目录
欢迎铁子们点赞、关注、收藏!
祝大家逢考必过!逢投必中!上岸上岸上岸!upupup
大多数高校硕博生毕业要求需要参加学术会议,发表EI或者SCI检索的学术论文会议论文。详细信息可关注V “
学术会议小灵通
”或参考学术信息专栏:https://blog.csdn.net/2401_89898861/article/details/145551342
跨域大尺度遥感影像滑坡制图方法:基于原型引导的领域感知渐进表示学习
3. 方法论
3.2. 框架
图1展示了所提出的PG-DPRL框架的概览。首先,LM-Net在源领域上进行预训练。基于目标领域与源领域之间存在不同的领域差异的观察,DPRL方法采用近远策略,依次对所有目标领域 T T T 与源数据 D s D_s Ds 进行对齐。具体来说,它从与源领域最接近的目标领域开始,逐步向领域偏移最大的目标领域推进。因此,对于 Z Z Z 个目标领域,DPRL方法在 Z Z Z 个适应步骤中进行训练。在每个DPRL步骤中,进行领域选择,以基于领域差异决定进行领域适应(DA)的目标领域,这些差异是根据每个领域中源原型和目标样本之间的表示发散计算的。接下来,在选定的目标领域上运行PGAL算法,在表示层次上对齐两个领域并生成可靠的伪标签。之后,通过对两个集合的联合与减法操作更新当前状态中的领域数据,DPRL方法进入下一步适应。
**如图2所示,PGAL算法明确地将目标表示驱动向源类别质心,通过跨领域原型约束调整分类边界以实现类别分离。**通过依次从最近的领域到最远的领域执行DA,所提出的方法可以逐步减少所有目标领域的领域偏移。此外,它可以高效地引导领域偏移较大的目标领域的适应,同时促进其表示对齐。
3.3. 预训练
给定源数据 x s x_s xs及其标签图 y s y_s ys,源领域 D s D_s Ds的高度为 H H H,宽度为 W W W,LM-Net可以通过最小化预测与地面真实值之间的差异,以监督方式在源领域上进行训练,从而执行像素级的LM(滑坡制图)。这一过程是通过优化标准的交叉熵(CE)损失函数 L C E L_{CE} LCE实现的:
其中,
K
K
K 为分类类别数,
p
s
,
q
k
p_{s,q_k}
ps,qk代表第
q
q
q 个像素属于第
k
k
k 类的softmax概率,即
p
s
=
F
c
(
F
r
(
x
s
)
)
p^s=F_c(F_r(x^s))
ps=Fc(Fr(xs)),而
y
q
s
∈
0
,
1
y^s_q ∈{0, 1}
yqs∈0,1是第
q
q
q 个像素的对应一热编码向量,表示该像素的类别标签。
基于对同一类别表征的观察倾向于聚类在一起,即类别原型,即表示每个类别的质心,都可以计算出来嵌入根据ground-truth标签的样本(Zhang et al., 2021a):
其中,
δ
k
(
D
s
)
δ_k(D_s)
δk(Ds) 是源领域
D
s
D_s
Ds中第
k
k
k 类的原型,
I
I
I 是指示函数,
[
F
r
(
x
s
)
]
q
[F_r(x_s)]_q
[Fr(xs)]q是输入训练样本
x
s
x_s
xs 的表示图中第
q
q
q 个像素的表示向量。之后,生成的原型可以视为数据分布的代表特征。
3.4. 领域选择
由于DPRL采用基于源数据和目标数据之间领域差异的近远表示对齐策略,因此需要进行领域选择以确定目标领域进行适应。在第
z
z
z 步DPRL中,领域选择在源领域和目标领域之间执行,即
D
^
s
z
\hat D^z_s
D^sz 和
T
^
z
\hat T_z
T^z,其中对于初始的源领域和目标领域集合,
D
^
s
0
=
D
s
\hat D^0_s=D_s
D^s0=Ds 和
T
^
0
=
T
\hat T_0=T
T^0=T。为此,定义一个表示发散函数
ϕ
k
(
x
t
,
D
^
s
z
)
ϕ_k(x_t, \hat D^z_s)
ϕk(xt,D^sz)来衡量样本
x
t
x_t
xt和源领域
D
^
s
z
\hat D^z_s
D^sz中第
k
k
k 类类别原型之间的表示差异,具体如下:其中,
∥
⋅
∥
2
∥⋅∥_2
∥⋅∥2 表示L2距离函数,
δ
k
(
D
^
s
z
)
δ_k(\hat D^z_s)
δk(D^sz)是源领域
D
^
s
z
\hat D^z_s
D^sz中第
k
k
k 类的原型,
[
F
r
(
x
s
)
]
q
[F_r(x_s)]_q
[Fr(xs)]q是通过样本
x
t
x_t
xt 获得的表示图中第
q
q
q 个位置的表示。接下来,我们采用类别级表示发散的Shannon熵来衡量每个目标样本的聚类不确定性,该不确定性根据样本的类别内聚类属性表示如下:
其中,
U
n
(
x
t
,
D
^
s
z
)
U_n(x_t, \hat D^z_s)
Un(xt,D^sz)表示当前状态下样本
x
t
x_t
xt的聚类不确定性。较高的值表明与
D
^
s
z
\hat D^z_s
D^sz之间的领域差异较大,因为偏向的模型往往会生成分散的表示,从而降低类别分离度。之后,可以从
T
^
z
\hat T_z
T^z中选择差异最小的目标领域,具体表示如下:
其中,
E
x
t
−
D
t
i
U
n
(
x
t
,
D
^
s
z
)
E_{x_t-D^i_t}U_n(x_t, \hat D^z_s)
Ext−DtiUn(xt,D^sz)估计目标领域
D
t
i
D^i_t
Dti与源领域
D
^
s
z
\hat D^z_s
D^sz之间的表示分布差异,
Q
z
Q_z
Qz表示在第
z
z
z 步DPRL中选择的目标领域。
下节请参考:【深度学习地学应用|滑坡制图、变化检测、多目标域适应、感知学习、深度学习】跨域大尺度遥感影像滑坡制图方法:基于原型引导的领域感知渐进表示学习(六)