【文献阅读】当元学习遇上故障诊断 Meta-learning in fault diagnosis

故障诊断元学习综述文章 Meta-learning as a promising approach for few-shot cross-domain fault diagnosis: Algorithms, applications, and prospects 为西安交大陈景龙团队最新学术研究成果。本文是对该综述的翻译及阐述，均得到论文作者之同意。

• 原文链接：Meta-learning as a promising approach for few-shot fault dianosis …
• CodeChina地址：https://codechina.csdn.net/weixin_43543177/MetaFD
• Gitee地址：https://gitee.com/fyancy/MetaFD
• GitHub地址：https://github.com/fyancy/MetaFD

---

引言

设备安全事故一般与结构损伤、故障发生和功能失效的连续发生密切相关，最终往往造成严重的人员伤亡和经济损失。尤其是对于重大装备而言，其自动化、集成化、复杂化、高速化、智能化的特点，使得机械对于故障的容忍度愈来愈低，微弱故障就能导致重大事故的发生。近年来，一系列的故障诊断技术相继出现。

• 基于信号处理的方法从原始信号中提取故障特征，如快速傅里叶变换(FFT)，短时傅里叶变换(STFT)，小波变换等。然而，如图1所示，(a)过多的人为干预使其难以满足现代设备对于诊断准确性和效率的要求。
• 机器学习是智能故障诊断的前沿技术，可以实现对机械信号特征的自动识别，经典的故障诊断方法如支持向量机方法、随机森林方法、 k 最近邻方法等得到了广泛的应用。(b)但仍受制于繁琐的特征工程。
• 最近，深度学习(DL)进一步扩展了智能诊断的概念，使得从原始信号到诊断的端到端的自动化过程成为可能。多层深度结构赋予网络强大的非线性转换能力，以提取更多的抽象特征，如卷积神经网络(CNN)，长短期记忆(LSTM)，深度自动编码器(DAE) ，生成对抗性网络(GAN)，以及图形神经网络(GNN)。尽管如此，这些方法仍受限于繁琐的手动调参和昂贵的计算资源成本。

作者认为，故障诊断对象从基本零件(轴承、齿轮、转轴等)到大型设备(风力发电机、航天发动机、高速列车等)的演变，导致了更苛刻的诊断场景: (1)数据匮乏；(2)工况多变；(3)数据质量差等。因此，需要寻求一种超参数优化少、训练数据量小、泛化能力强的方法，以满足快速、准确的故障诊断的要求。元学习，可以作为一种值得考虑的算法。

元学习(Meta-Learning)，也称学习之学习(Learning to learn)，指的是如下一种学习技术：通过几个可用样本就可以快速适应新任务。也就是说，模型设计者不需要在意训练数据量，用户也不用关心专家经验，如图1所示。这是受人类学习的启发。当人类遇到一系列任务时，我们学习如何处理它们，同时归纳出该学习过程的抽象知识，这样我们就可以快速地学习相关的新任务，并很好地应对它们。元学习寻求给定任务的基本规则，即元知识。高水平的元知识能使下游任务中的模型能够快速学习，为其提供全局共享的经验，而不是从头开始学习。迁移学习也具有类似的能力(例如，参数微调)，但是迁移效果和训练数据量要求都不令人满意。

作者还讲述了元学习的背景及其在其它领域的应用，此处不赘述。
文章结构如下图所示。全文从经典的分类方法出发，将元学习方法分为基于优化、度量和模型三类，原因作者也在文中阐明。究其根本，对于启发性综述而言，故障诊断中元学习文献的质量和数量决定了综述布局，而现阶段的元学习在本领域的应用还处于起步阶段，因此经典的分类法足以。左边是元学习的基本架构，元学习器和基础学习器是模型的抽象表述，元学习器负责对元参数、元知识的更新，用于指导基础学习器在下游任务或者具体的新任务上的快速学习。图中，相同颜色的内容之间相互关联。如，基于优化的方法为蓝青色，而左边图中反向传播流程与之对应，紫色对应于左边元学习器对于基础学习器的指导等。
文章创新点：

• 自数学优化的角度引入元学习概念，使得三类元学习之间更容易归纳总结；
• 从深度学习与故障诊断两个维度进行阐述，理论与实践结合、具体的案例展示等都使得本文论述更加合理；
• 多角度、多层次展示(主要指最后的application部分)；
• 指出故障诊断元学习方法的挑战、灵感、未来工作等。

---

全文概览

值得一看的是下面这张图。图中分别展示了元学习在深度学习领域中(主要是CV)的发展和在机械故障诊断中的应用发展。可以看到，1) 同样方法的出现和应用，故障诊断领域要慢3年甚至4年，这其中当然有深度学习(Deep learning, DL)发展太快、攻城狮们不善于编程等方面的缘故，还有深层次的原因，新技术在新领域的磨合。因为大家在观望、在对比，要是CNN就能解决的问题，要什么迁移学习，要什么GAN，要什么元学习？当然，随着智能诊断算法的发展，学者们发现，DL对于某些更贴近实际条件下的诊断场景效果大打折扣(如前所述)，于是，我们诉诸元学习方法。言归正传，DL领域最新的元学习算法并未在故障诊断得到应用，多为经典方法的应用。

---

基本知识

元知识 Meta-knowledge
元知识 $\mathbf{\omega }$ 是关于如何指导模型在新任务上快速学习的，且融合了模型在多个任务上学习过程的，高层级知识，如初始学习率、优化器等。它比通过预定义 $\mathbf{\omega }$ 的监督式学习获得的常规知识 $\theta$ 更高级、更抽象，因为它的目的是指导后者的优化过程$g(\cdot )$，亦即 $\theta =g_{\mathbf{\omega }}(\mathcal{D})$.

支持集 Support set

查询集 Query set

元任务 Meta-task

元学习 Meta-learning

---

持续更新中 …