TNNLS 2024 综述论文一览 Part1（10篇）(IEEE Transactions on Neural Networks and Learning Systems)

TNNLS 2024 综述论文一览 Part1（10篇）(IEEE Transactions on Neural Networks and Learning Systems)

Continuous-Time Reinforcement Learning Control: A Review of Theoretical Results, Insights on Performance, and Needs for New Designs

文章解读: 连续时间强化学习控制：理论成果回顾、性能洞察及新设计需求
文章链接: (10.1109/TNNLS.2023.3245980)

论文《Continuous-Time Reinforcement Learning Control: A Review of Theoretical Results, Insights on Performance, and Needs for New Designs》主要探讨了连续时间强化学习控制的理论成果、性能见解以及新设计的需求。强化学习是一种通过与环境交互来学习最佳决策的方法，近年来在机器人控制等领域得到了广泛应用。强化学习与控制论结合，可以用于解决自适应最优控制问题。此外，深度强化学习在处理高维连续状态与动作空间问题上也表现出色。

Transfer Adaptation Learning: A Decade Survey

文章解读: 迁移适应学习：十年综述
文章链接: (10.1109/TNNLS.2022.3183326)

迁移学习（TL）自2010年以来已经成功应用于许多传统机器学习无法处理的实际问题，如图像处理、语音识别和自然语言处理（NLP）。TL通常旨在解决传统机器学习的三个主要问题：标记数据不足、计算能力不兼容和分布不匹配。TL可以分为四种类型：传递学习、归纳学习、无监督学习和负迁移学习，每种类型又可以进一步细分为四种学习类型：基于实例的学习、基于特征的学习、基于参数的学习和基于关系的学习。

Backpropagation-Based Learning Techniques for Deep Spiking Neural Networks: A Survey

文章解读: 基于反向传播的深度脉冲神经网络学习技术：综述
文章链接: (10.1109/TNNLS.2023.3263008)

论文《Backpropagation-Based Learning Techniques for Deep Spiking Neural Networks: A Survey》主要探讨了基于反向传播的深度脉冲神经网络（SNNs）的学习技术。深度SNNs因其事件驱动的计算方式，有望提高深度神经网络的延迟和能效。然而，由于脉冲事件的非可微性，训练这类网络存在挑战。在训练方法上，已有研究提出了多种策略。例如，将膜电位视为可微信号，将脉冲时间视为噪声，从而实现误差反向传播机制。此外，还有研究通过引入替代梯度学习方法来克服SNNs训练中的挑战。另一种方法是使用混合宏观/微观级反向传播算法，该算法在微观级别精确捕捉时间效应，在宏观级别定义并反向传播率编码误差。此外，还有研究通过直接训练SNNs来提高性能，例如使用事件驱动的反向传播，或者采用残差学习框架来简化训练过程并提高网络深度。这些方法通常需要较少的时间步长来达到与传统深度学习模型相当的准确率。

Deep Reinforcement Learning: A Survey

文章解读: 深度强化学习：综述
文章链接: (10.1109/TNNLS.2022.3207346)

深度强化学习（Deep Reinforcement Learning, DRL）是一种结合了深度学习和强化学习的领域，旨在解决复杂的决策问题。自2017年以来，DRL在多个领域取得了显著进展，包括游戏AI、自动驾驶、机器人技术、金融、医疗保健和交通等。DRL的核心在于通过与环境的交互学习最优策略，以最大化累积奖励。这一过程涉及到探索与利用的平衡、延迟奖励的学习、以及如何有效地从经验中学习等问题。
DRL的研究主要集中在几个方面：基于值函数的方法（如深度Q网络DQN）、基于策略的方法（如信任区域策略优化TRPO和异步优势演员评论A3C）、以及结合了多种技术的综合方法（如Rainbow算法）。这些方法在不同的任务和环境中展示了其有效性，但同时也面临着样本效率低、泛化能力不足等挑战。泛化能力是DRL研究中的一个重要议题。泛化能力指的是模型在未见过的新环境中表现的能力。研究表明，尽管DRL算法在训练环境中取得了突破性成果，但在新环境中的表现往往不尽如人意。为了解决这一问题，研究者提出了多种方法，包括改进的探索策略、多任务学习、迁移学习等。此外，DRL的研究还面临着可重复性的问题。由于标准基准环境的非确定性和方法本身的方差，使得结果难以解释。因此，提高实验的可重复性和结果的可靠性成为了研究的一个重要方向。

A Survey on Offline Reinforcement Learning: Taxonomy, Review, and Open Problems

文章解读: 离线强化学习综述：分类、回顾及未解决问题
文章链接: (10.1109/TNNLS.2023.3250269)

论文《A Survey on Offline Reinforcement Learning: Taxonomy, Review, and Open Problems》主要探讨了离线强化学习（Offline Reinforcement Learning）的分类、综述以及未解决的问题。离线强化学习是一种数据驱动的子领域，其目标与传统强化学习相同，但区别在于智能体不能通过行为策略与环境互动或收集额外数据，而是使用静态转换数据集来学习最优策略。这种方法类似于标准的监督学习问题，其中数据集作为策略训练集。离线强化学习的一个重要挑战是处理分布偏移导致的价值函数过估计问题，而保守Q学习（CQL）框架正是为解决这一问题而提出的。

A Survey on Deep Learning Event Extraction: Approaches and Applications

文章解读: 深度学习事件抽取综述：方法与应用
文章链接: (10.1109/TNNLS.2022.3213168)

论文《A Survey on Deep Learning Event Extraction: Approaches and Applications》主要探讨了深度学习在事件抽取中的应用和方法。事件抽取涉及从文本中识别和分析事件及其相关实体和关系，是自然语言处理中的一个重要任务。该领域使用了多种方法，包括基于统计的特征模型、深度学习模型和图结构化模型。深度学习模型利用大规模语料库中的词嵌入和深度架构来提取有效模式，而图结构化模型则通过语法或语义结构捕获单词之间的交互。此外，一些研究还探讨了开放式事件抽取，即在没有预定义事件类型的情况下提取事件触发词。例如，Adversarial-neural Event Model (AEM) 是一种基于生成对抗网络的模型，能够从不同文本源中高效地提取事件，并且在准确率、召回率和F值方面优于基线方法。事件抽取系统在知识库构建、问答系统和文本摘要等方面有广泛应用。未来的研究方向包括结合外部知识、探索非参数神经事件抽取方法以及检测新闻文章中事件的演变。

Backdoor Learning: A Survey

文章解读: 后门学习：综述
文章链接: (10.1109/TNNLS.2022.3182979)

论文《Backdoor Learning: A Survey》主要探讨了后门攻击（Backdoor Attack）在深度学习系统中的应用与防御策略。后门攻击是一种通过在训练数据中注入特定触发器（Trigger），使得模型在遇到这些触发器时产生错误预测的攻击方法。这种攻击方式隐蔽性强，难以被现有检测工具发现。例如，LIRA方法通过同时学习转换函数和分类模型，生成难以检测的触发器，从而提高攻击的成功率。此外，对抗性后门攻击利用目标通用对抗扰动（TUAP）隐藏异常，绕过现有检测方法，显示出较高的转移性和成功率。为了防御后门攻击，研究者提出了多种方法，包括训练防御、模型防御和测试时防御等。然而，这些防御措施往往需要重新训练或微调模型，增加了计算负担，并且尚未提供可证明的安全保证。

Recent Advances in Conventional and Deep Learning-Based Depth Completion: A Survey

文章解读: 传统方法和基于深度学习的深度补全技术的最新进展：综述
文章链接: (10.1109/TNNLS.2022.3201534)

论文《Recent Advances in Conventional and Deep Learning-Based Depth Completion: A Survey》主要探讨了传统方法和基于深度学习的深度完成技术的最新进展。深度完成技术在计算机视觉、自动驾驶等领域有广泛应用，如三维物体检测和场景三维重建。深度信息补全模型通常通过有监督训练获得，涉及特征提取、增强和融合等步骤。此外，模型性能可以通过计算补全图像与真实图像之间的残差来评估，并根据残差优化模型。

Transfer Learning-Motivated Intelligent Fault Diagnosis Designs: A Survey, Insights, and Perspectives

文章解读: 基于迁移学习的智能故障诊断设计：综述、见解与展望
文章链接: (10.1109/TNNLS.2023.3290974)

论文《Transfer Learning-Motivated Intelligent Fault Diagnosis Project: A Survey, Insights, and Perspectives》主要探讨了迁移学习在智能故障诊断中的应用。迁移学习通过利用预训练模型来提高特定领域内小样本数据的诊断性能，尤其在工业设备和机械故障诊断中表现出色。该研究总结了迁移学习的机制和策略，并从数据和模型两个角度解释了其工作原理。此外，还介绍了多种代表性的迁移学习方法，并通过实验验证了其在不同领域的有效性。

Few-Shot Object Detection: A Comprehensive Survey

文章解读: 少样本物体检测：综述
文章链接: (10.1109/TNNLS.2023.3265051)

论文《Few-Shot Object Detection: A Comprehensive Survey》主要探讨了少样本目标检测（FSOD）这一领域，该任务旨在利用少量训练样本检测新类别的对象。当前的研究方法主要分为元学习和迁移学习两大类。元学习方法通过元学习范式生成任务，而迁移学习方法则先在丰富数据的基类上训练模型，再在少量标注的新类别上进行微调。一些研究提出了改进分类特征的方法，例如多级特征增强（MFE）模型，通过空间、任务和正则化三个层面提升分类性能。此外，还有研究通过引入完全交叉变换器（Fully Cross-Transformer）来增强特征交互，从而提高少样本相似性学习的效果。