深度注意关系网络：未知域下轴承故障诊断的零样本学习方法

Preface

在轴承故障诊断领域（BFD）深度学习（DL）取得了很好的效果，然而大多数方法假设训练集与测试集是相同的分布空间，这意味着该诊断模型不适用于其他未知域。迁移学习（TL）提高了在不同数据分布中的诊断模型性能，但依然存在以下缺陷：
1）迁移学习从源域（SD）中学习目标域（TD）的故障知识，实际工程中需要做频繁的迁移任务，限制了模型的适用性
2）迁移学习中TD的故障类型必须是已知的，若发生未知故障，迁移学习将不可用

本文提出了一种基于深度注意关系网络（DARN）的针对未知域下BFD的零样本学习方法。该方法主要包括特征提取模块和关系模块。特征提取模块用于生成输入样本的表示。关系模块计算样本对之间的关系分数，以确定它们的类型。在DARN中引入了并行注意机制（PAM），以增强所建立模型的表征能力，使关系模块更便于比较。贡献如下：
1）提出了DARN方法，从单个已知域学习故障知识，在数个未知域中测试，而训练数据不包含未知域样本。
2）关系模块可以揭示样本对之间的相似性关系来确定其类别，从而提高在几个未知领域的诊断性能。
3）引入PAM，帮助模型定位不同类别中最具鉴别性的区域，以增强DARN的特征可鉴别性，使关系模块能够更好地区分样本对之间的相似性关系。

Method

Problem Formulation

假设如下：
1）不同域中的BFD任务是相同的，即共享相同的轴承健康状态。
2）训练数据集和测试数据集是相互关联的，但由于运行环境的变化和故障的原因，它们存在不同的数据分布。
3）训练数据集仅来自一个已知领域，而测试数据集来自多个未知域，不需要参与训练过程。

Deep Attention Relation Network（DARN）

DARN主要由连续小波变换（CWT）模块、特征提取器模块$F_{\phi }^1$、卷积注意模块$F_{\phi }^2$和关系模块$G_{\vartheta }$组成

CWT Module

CWT可以揭示低频和高频信息下的故障信息，保留有效信号的特征。在CWT中，通过计算时域数据$x(t)$与小波基函数${\phi }_{a，b}(t)$的内积，形成小波时频映射，表示为

$a$是CWT的比例因子，$b$为时移因子，支持集$S$和查询集$Q$通过CWT转换为小波时频映射，并馈送给特征提取器模块。

Feature Extractor Module

CNN：4卷积2池化
$S,Q$分别经过特征提取得到$F_{\phi }^1(x_i^S)$和$F_{\phi }^1(x_i^Q)$，使用$C()$（特征映射的深度连接）得到特征映射对$C(F_{\phi }^1(x_i^S),F_{\phi }^1(x_i^Q))$，输入卷积注意模块

Convolution Attention Module

CNN：2卷积2池化
后接并行注意机制（PAM）。PAM同时包括通道注意机制和空间注意机制。通道注意机制可以关注特征图对中最具代表性的特征，而空间注意机制可以定位特征图对中信息最丰富的位置。这将提高DARN的表征能力，使关系模块更具鉴别能力。
通道注意机制：MLP是多层感知器，LP是感知器，$\sigma$是Sigmoid函数

空间注意机制：$f^{7\times 7}$表示卷积操作

PAM：输出$F_{\phi }^2(C(F_{\phi }^1(x_i^S),F_{\phi }^1(x_i^Q)))$
$$M_{PAM}(F)=M_c(F)+M_s(F)(6)$$

Relation Module

关系模块由两个尺寸为1×8和尺寸为1×1的全连接块组成。
关系模块$G_{\vartheta }$可以计算特征映射对$F_{\phi }^2(C(F_{\phi }^1(x_i^S),F_{\phi }^1(x_i^Q)))$的关系得分，进行关系学习。关系分数$r_{i,j}$是0到1之间的标量，表示支持集$S$和查询集$Q$之间的相似性。这意味着关系得分越高属于同一类别，而关系得分越低属于不同类别。因此，关系模块$G_{\vartheta }$的输出被定义为

Optimization Objective of the DARN

最小化均方误差（MSE）

DARN的训练流程如算法1所示。

BFD Procedure

Experiment

Case 1

采用Ottawa数据集，数据集包含三个轴承健康状态，即正常(NC)、内圈故障（IF）和外圈故障（OF）。振动信号采样频率200KHz，采样时间10s。在四个时变转速条件下采集（O1-O4）。工作转速条件包括升速、降速、先升后降、先降后升。每次收集的原始信号的长度是1024。对于每个轴承的健康状态，收集了1000个样本。对于每个操作条件，数据集中有3000个样本。（表二）
建立T1、T2、T3、T4 4个诊断任务。例如，T1表示使用操作条件O1的80%数据集作为训练数据集，使用操作条件O1的剩余数据集和操作条件O2、O3、O4的数据集作为测试数据集。在T1中，O2、O3和O4相当未知的操作条件。（表三）

结果：

Case 2

采用Paderborn数据集，做法与Case 1类似。

论文