CCSI: 数据无关类别增量学习的持续类特定印象| 文献速递-基于深度学习的多模态数据分析与生存分析

Title

题目

CCSI: Continual Class-Specific Impression for data-free class incremental learning

CCSI: 数据无关类别增量学习的持续类特定印象

01

文献速递介绍

当前用于医学影像分类任务的深度学习模型表现出令人鼓舞的性能。这些模型大多数需要在训练之前收集所有的训练数据并指定所有的类别。它们在部署期间训练一次深度学习模型，并期望其在所有后续数据上执行。然而，这种要求限制了在实际临床环境中的可行性，因为医学图像数据会不断收集并随着时间而变化，例如，当新疾病类型出现时。

一种解决这一挑战的有前途的方法是使系统能够进行持续或终身学习，这意味着部署的模型可以适应新数据，同时保持从以前数据中获得的信息。结合这些学习技术将使深度学习模型更灵活地适应医学数据集的不断扩展。医学持续学习已在各种增量场景中被利用（van de Ven等人，2022），考虑到新进数据的非静态特性。这些场景包括任务增量学习（González等人，2023；Liao等人，2022；Xu等人，2022；Kaustaban等人，2022；Chakraborti等人，2021），在这些场景中，引入了新的医学任务，例如，扩展一个分割网络到另一个身体区域；类别增量学习（Chee等人，2023；Yang等人，2021a；Li等人，2022），其中引入了新的疾病类别。

Abstract

摘要

在实际临床环境中，传统基于深度学习的分类方法在诊断新引入的疾病类型时会遇到困难，因为这些方法需要从所有疾病类别中获取样本进行离线训练。类别增量学习提供了一种有前途的解决方案，它通过适应已训练在特定疾病类别上的深度网络来处理新疾病。然而，灾难性遗忘问题会在适应模型到新数据时出现，导致早期类别的性能下降。之前提出的解决这一问题的方法需要永久存储以前的样本，这在医疗保健领域可能会带来隐私和存储法规方面的实际问题。为此，我们提出了一种新颖的无数据类别增量学习框架，通过对已学习类别进行数据合成，而不是存储先前类别的数据。我们的主要贡献包括获取称为“持续类特定印象”（CCSI）的合成数据，这些数据用于以前无法访问的训练类别，并提出了一种有效利用这些数据在引入新类别时更新网络的方法。我们通过对以前类别的训练分类模型的梯度进行数据反演，从每个类别的平均图像开始获取CCSI，这个过程受到医学图像中常见标志的启发，并在这个逐像素优化过程中使用持续归一化层统计作为正则化器。随后，我们通过结合合成数据和新类别数据来更新网络，并结合多种损失函数，包括一个用于在合成数据上训练的深度网络泛化到真实数据的域内对比损失、一个增加以前类别和新类别间分离的边缘损失，以及一个缓解训练数据中分布不平衡负面影响的余弦归一化交叉熵损失。大量实验表明，该框架在四个公共MedMNIST数据集和内部的心超电影系列中实现了最先进的性能，相较于基线无数据方法，分类准确率提高了高达51%。

Method

方法

This section is structured as follows. We begin by explaining theproblem setting of data-free incremental learning in Section 3.1. Next,in Section 3.2, we identify the challenges in the setting and give anoverview of our proposed pipeline, emphasizing three crucial factorsthat drive our design: (1) normalization layer, (2) data synthesis, and (3)loss functions*. Furthermore, we elaborate on the techniques suggestedto tackle the first two factors in Section 3.3. Finally, we present the newloss terms utilized to address the third factor in Section 3.4.

本节结构如下。我们首先在第3.1节解释无数据增量学习的问题设定。接下来，在第3.2节中，我们识别该设定中的挑战并概述我们提出的流程，强调驱动我们设计的三个关键因素：(1) 归一化层，(2) 数据合成，和 (3) 损失函数。此外，我们在第3.3节详细介绍了应对前两个因素的建议技术。最后，在第3.4节中，我们介绍了用于解决第三