Multiscale Gradient Selection-Based Coupled-Hypersphere Adaptation for Unsupervised Pavement Defect Detection
motivation
- 复杂路面背景的干扰:在复杂的路面背景下,传统的方法往往难以区分缺陷和非缺陷区域,因为它们之间的纹理和结构可能非常相似。
- 弱纹理情况下的检测困难:在弱纹理或平滑的路面上,缺陷(如细微裂缝)可能难以被检测出来,因为它们与周围路面的对比度较低。
- 数据偏差问题:由于预训练网络(如在ImageNet上训练的网络)的数据分布与目标缺陷数据集存在显著差异,这可能导致在缺陷定位上的不准确性。
- 无监督学习中的缺陷定位:在没有缺陷样本标签的情况下,如何有效地学习和识别缺陷特征是一个挑战,特别是在路面缺陷检测中,因为缺陷样本的获取成本高且数量有限。
创新点
- 构建特征捕获记忆库:使用多尺度梯度选择模块和指数移动平均(EMA)方法构建一个轻量级且有代表性的记忆库,以有效捕获复杂路面背景的特征。
- 耦合超球面适应模块:利用基于轴的自注意力描述符和耦合超球面损失函数,对特征进行适应性调整,以减少预训练网络引入的数据偏差,并提高缺陷检测的准确性。
- 多中心基于缺陷评分模块:在测试阶段,使用多个中心点来评估测试样本的缺陷程度,从而提高缺陷定位的准确性。
方法
1.通过预训练网络提取特征
通过预训练网络提取无缺陷样本的特征(ResNet-18),第一层提取的浅层特征包含丰富的纹理,中级特征包含丰富的语义信息。
2.基于梯度选择的多尺度记忆库
为了消除冗余信息的干扰和缺陷图片的难以识别,一方面使用多尺度存储器库来关注不同尺寸的缺陷,其次采用了基于梯度的特征选择模块,使模型聚焦于非缺陷图像中变化显著的区域。
首先通过卷积得到图像的梯度特征
G
i
j
=
N
o
r
m
(
D
(
f
i
j
)
⊙
L
)
G_{ij}=Norm(D(f_{ij})\odot L)
Gij=Norm(D(fij)⊙L)
f
i
j
f_{ij}
fij表示第i张图片的j层特征,D为自适应特征模块,L为拉普拉斯算子(此算子相对于其他的更能感应纹理信息).然后为了减少特征库的冗余,对梯度特征
G
i
j
G_{ij}
Gij进行概率采样,服从正态分布,采样后,我们得到每个像素值的概率值。如果如果梯度特征Gi j的值高于采样概率Pi j,我们认为该特征具有高度代表性,并选择它。
然后通过EMA(exponential moving average),公式为:
C
n
=
α
C
n
−
1
+
(
1
−
α
)
S
i
j
C_n=αC_{n-1}+(1-α)S_{ij}
Cn=αCn−1+(1−α)SijC为内存库,n表示内存库更新的次数,α表示平衡因子。
3.耦合超球适配模块
在训练阶段,我们构建了一个自适应模块,该模块由基于轴的自关注特征描述符和双门控前向网络组成,如文献[50]所做。在我们的方法中,自适应模块
D
(
f
i
j
)
D(f_{ij})
D(fij)用
A
i
j
A_{ij}
Aij表示,公式如下:
A
i
j
=
D
u
a
l
(
A
x
i
s
(
f
i
j
)
)
A_{ij}=Dual(Axis(f_{ij}))
Aij=Dual(Axis(fij))
Dual双门控前向网络增强了自适应模块的非线性建模能力,而Axis基于轴的自关注特征描述子从水平方向和垂直方向计算像素之间的相关性,为自适应特征提供丰富的全局语义信息。
根据代表性记忆库构造的超球C的中心,我们用K个最近的中心对超球进行建模,其中r为超球的半径。
L
g
L_g
Lg为聚集损失,使得自适应特征向球心聚集。D(·)为欧氏距离,HW为样本中的像素个数,
A
t
A_t
At为自适应特征中的第t个像素,
C
k
t
C_k^t
Ckt为记忆库中距离这些中心最近的第k个中心,r为可学习的超球半径.
L
s
Ls
Ls为分离损失,通过最小化分离损失函数的损失函数,自适应模块的参数倾向于使近分布缺陷远离超球边界,从而提高了真实路面场景中的缺陷检测性能。
4.多中心缺陷计分模块
仅使用最近的中心计算距离可能导致有缺陷的样本被错误地分类为无缺陷的样本。这是由于有缺陷的样品太靠近无缺陷的特征,导致其异常没有充分突出。
我们首先计算记忆库中最接近测试样本的K个中心,生成K个缺陷分数映射
H
i
j
k
=
D
(
A
i
j
,
C
k
)
H_{ij}^k=D(A_{ij},C^k)
Hijk=D(Aij,Ck)。然后再使用softmin函数计算测试样本相对于这些K中心的权重。
H
i
j
0
H_{ij}^0
Hij0是最近中心计算的热度,由于模型是多尺度结构,我们使用upsampling()来得到最终的热图。
最后我们使用F1分数来计算阈值t,然后通过每个缺陷的像素分数来进行缺陷定位。
argmax(·)表示F1中取最大值的数组下标函数。
总体模型框架:
论文地址:Y. Zhang, Z. Li, T. Lai, W. Li and X. Zheng, “MGSCA: Multiscale Gradient Selection-Based Coupled-Hypersphere Adaptation for Unsupervised Pavement Defect Detection,” in IEEE Transactions on Instrumentation and Measurement, vol. 73, pp. 1-13, 2024, Art no. 5012513, doi: 10.1109/TIM.2024.3370756