画心

储层计算（RC）通过固定非线性储层与可训练线性读出的解耦设计，克服了传统递归神经网络训练中的梯度问题。其核心在于利用高维动力系统将输入信号映射到线性可分空间，仅需训练输出层权重。数学证明表明，当储层权重矩阵的谱半径满足特定条件时，系统具备回声状态属性和衰退记忆特性，确保状态收敛并遗忘久远历史。RC架构从随机连接演进到结构化拓扑（如简单环、带跳跃环），并发展出深度堆叠等变体，显著提升了计算效率与性能。这一范式为时间序列建模提供了高效解决方案。

本文提出了一种新颖的深度可分离反向卷积算子（reverse convolution），通过建立并求解正则化最小二乘优化问题，实现了对depthwise卷积的有效反转。该算子采用FFT推导闭式解，并详细研究了核初始化、padding策略等实现细节。基于此构建的reverse卷积块结合了层归一化、1×1卷积和GELU激活，形成类Transformer结构，可直接替换现有网络中的常规卷积层，构建ConverseNet。

一种新的语义分割范式，通过结构化token直接构建语义掩码并逐步细化，而非传统逐像素分类方法。作者设计了三种交互结构（CSE、SSE和静态卷积）来捕获特征图中的结构信息，并通过堆叠处理单元实现mask细化。

本文介绍了全参考图像质量评估方法SSIM（结构相似性指数）的设计背景与实现。传统评估方法如MSE和PSNR虽计算简单，但与人类感知质量匹配度低。SSIM基于结构信息退化假设，通过亮度、对比度和结构三个分量评估图像质量。论文详细阐述了SSIM的算法框架，并对比了不同实现的高斯滤波处理方式差异。作者基于PyTorch实现了可微分的MSSIM代码，支持用户自定义padding和核形式参数，确保与现有实现兼容。该指标在图像处理系统优化、算法评估等领域具有重要应用价值。

针对超高清低照度图像增强中的计算复杂度和信息丢失问题，提出Wave-Mamba模型。该模型创新性地结合离散小波变换（DWT）与状态空间模型（SSM），通过小波域分析发现：1）93.7%图像能量集中于低频分量；2）高频对增强结果影响微弱。基于此，设计低频状态空间模块（LFSSBlock）进行全局增强，并通过改进的高频增强模块（HFEBlock）校正细节。

本文提出WaveMamba，一种基于小波变换和Mamba的RGB-红外跨模态目标检测方法。研究发现RGB和红外图像在频域具有互补特性：红外图像低频信息丰富，RGB图像高频细节突出。WaveMamba通过离散小波变换分解特征，采用低频Mamba融合块（结合通道交换和门控注意力）和高频绝对最大值增强策略，实现高效特征融合。在六个基准数据集上的实验表明，该方法平均mAP提升4.5%，同时保持较低计算开销，为跨模态目标检测提供了新思路。

本文提出一种基于因果推理与小波变换的低光照图像增强方法。CWNet通过因果干预分析揭示潜在因果关系，采用全局度量学习分离因果/非因果因子，并引入实例级CLIP语义损失确保局部一致性。同时设计基于小波变换的主干网络优化频域信息恢复。实验表明，CWNet在多个数据集上优于现有方法，有效解决了光照不均与语义保持的挑战。该方法为低光增强提供了新的因果推理视角，显著提升了视觉质量与语义准确性。

针对多模态脑肿瘤分割中MRI模态缺失问题，提出了一种基于可学习排序状态空间模型(LS3M)的新方法。该框架通过可微分的动态重排机制(SortP)保留3D MRI的空间结构和语义关联，结合串联状态空间模型(S3M)高效建模长程依赖关系，并采用全局输入策略增强上下文感知。实验表明，在BraTS2018和BraTS2020数据集上，LS3M在模态缺失情况下显著优于现有方法。

提出FourierMamba模型，将State Space Models与Fourier学习相结合用于图像去雨。针对现有频域方法忽视频率间依赖关系的问题，模型采用多尺度U-Net架构，核心包含Fourier Spatial Interaction SSM和Fourier Channel Evolution SSM两个模块。前者在空间维度通过改进的zigzag扫描策略（bilateral和progressive两种变体）有序处理频谱信息；后者在通道维度建模频率相关性。

TIP 2022 - 蒸馏位置自适应：Spot-adaptive Knowledge Distillation本文已授权极市平台, 并首发于极市平台公众号. 未经允许不得二次转载.原始语雀文档：https://www.yuque.com/lart/gw5mta/vhbggb论文：https://arxiv.org/abs/2205.02399代码：https://github.com/zju-vipa/spot-adaptive-pytorch内容摘要知识蒸馏（KD）已成为压缩深神经网

F3Net: Fusion, Feedback and Focus for Salient Object Detection文章目录F3Net: Fusion, Feedback and Focus for Salient Object Detection说在开头主要工作主要结构损失函数实验细节相关链接原始文档：https://www.yuque.com/lart/papers/mq2x1yAAAI 2020说在开头这篇文章的代码用了一些很有用的trick，其中我觉得最重要的就是多尺度训练。

Progressive Feature Polishing Network for Salient Object Detection文章目录Progressive Feature Polishing Network for Salient Object Detection主要工作主要结构实验细节相关链接原始文档：https://www.yuque.com/lart/papers/gcctz1AAAI 2020主要工作本文还是从多层级特征利用的角度入手，提出了一个Progressive Fea

Global Context-Aware Progressive Aggregation Network for Salient Object Detection文章目录Global Context-Aware Progressive Aggregation Network for Salient Object Detection主要工作主体结构FIASRHAGCF损失函数实验细节相关链接原始文档：https://www.yuque.com/lart/papers/kyxtc1AAAI 2020

Arxiv 2205 - TRT-ViT 面向 TensorRT 的 Vision Transformer论文：https://arxiv.org/abs/2205.09579原始文档：https://www.yuque.com/lart/papers/pghqxg主要内容这篇文章从Vision Transformer的实际应用的角度进行了回顾和探索。现有的Vision Transformer虽然精度很高，但是却并不像ResNet那样高效，且逐渐偏离了实际部署场景的需求。作者们认为这可能是因

Arxiv 2205 - EdgeViTs: Competing Light-weight CNNs on Mobile Devices with Vision Transformers论文：https://arxiv.org/abs/2205.03436解读：https://mp.weixin.qq.com/s/idQND1Vqxnae0eerQ_lgyA核心内容仍然遵循金字塔结构形式的Transformer范式。修改Transformer Block为提出的Local-Global

Arxiv 2106 - CAT: Cross Attention in Vision Transformer论文：https://arxiv.org/abs/2106.05786代码：https://github.com/linhezheng19/CAT详细解读：https://mp.weixin.qq.com/s/VJCDAo94Uo_OtflSHRc1AQ核心动机：使用patch内部和patch之间attention简化了全局attention计算。本文仅做核心模块的粗略说明，力求对本

Arxiv 2203 - SepViT: Separable Vision Transformer论文：https://arxiv.org/abs/2203.15380解读：https://mp.weixin.qq.com/s/FxkiHYX-BKZ3-iewKNmXnw核心目的：优化Attention计算。此外，SepViT还采用了条件位置编码(CPE)。对于每个阶段，都有一个重叠的Patch合并层用于特征图降采样，然后是一系列的SepViT Block。空间分辨率将以stride=4步或

CVPR 2022 Oral | Shunted Self-Attention via Multi-Scale Token Aggregation本身可以看做是对 PVT 中对 K 和 V 下采样的操作进行多尺度化改进。对 K 和 V 分成两组，使用不同的下采样尺度，构建多尺度的头的 token 来和原始的 Q 对应的头来计算，最终结果拼接后送入输出线性层。

CVPR 2022 - Beyond Fixation: Dynamic Window Visual Transformer论文：https://arxiv.org/abs/2203.12856代码：https://github.com/pzhren/DW-ViT动机：将多尺度和分支注意力引入window-based attention。现有窗口注意力仅使用单窗口设定，这可能会限制窗口配置对模型性能影响的上限。作者们由此引入多尺度窗口attention，并对不同尺度的窗口分支加权组合，提升多尺度表

提出Serp-Mamba模型，用于高分辨率视网膜血管分割。针对UWF-SLO图像中血管形态特殊、类别失衡等挑战，提出两项创新：1) 蛇形交织自适应扫描机制（SIA），通过可变形路径动态贴合血管曲率，解决传统Mamba固定扫描导致的血管断裂问题；2) 模糊驱动双重校准模块（ADDR），利用双阈值划分和交叉注意力重校准模糊像素，缓解高分辨率下的类别失衡问题。

本文提出RegCL方法，通过模型合并实现Segment Anything Model (SAM)在动态多域环境中的持续适配。针对SAM在医学、伪装等特殊领域表现不佳且传统微调导致灾难性遗忘的问题，RegCL创新性地将RegMean模型合并算法引入持续学习场景，仅需保存历史任务的权重内积矩阵，即可在不增加推理参数量的前提下合并新旧知识。实验表明，在五个跨域分割任务上，RegCL的平均准确率达0.751 mIoU，显著优于传统方法，且支持与回放方法结合进一步提升性能。

本文提出HTD-Mamba，一种基于金字塔状态空间模型的高光谱目标检测方法，解决了先验知识有限和光谱变化两大挑战。该方法通过空间编码光谱增强（SESA）生成对比样本对，结合多分辨率特征提取（MSFE）和对比学习机制，有效区分目标与背景。引入Mamba模型捕获长程光谱依赖，以线性复杂度实现高效检测。实验表明，HTD-Mamba在四个数据集上显著优于现有方法（如San Diego I数据集AUC达0.9998），在计算效率和检测精度上均具优势。

该研究提出DiffFNO框架，通过融合扩散模型与改进的傅里叶神经算子（FNO）解决图像超分辨率问题。实验表明，DiffFNO在多个基准测试中PSNR指标提升2-4dB，且对训练未见尺度具有强泛化能力。

本文探讨了Transformer模型在无嗅觉标签条件下，能否通过化学结构预训练对齐人类嗅觉感知。研究发现，MoLFormer模型提取的气味剂表征能够有效预测专家标注的嗅觉描述符、人类连续评分及气味剂相似度，其性能接近监督模型且优于传统物理化学特征方法。分析表明，模型深层表征更偏向高层感知特征而非底层化学属性。研究证实了自监督Transformer在嗅觉感知预测中的潜力，为化学与神经科学研究提供了新工具，但受限于数据质量和个体差异等因素，仍有改进空间。

本文提出POMMIX模型，首次将数字化嗅觉研究从单一分子扩展到复杂混合物。该模型采用层次化架构：基于图神经网络学习分子嵌入，通过自注意力机制聚合混合物表示，并设计对称性评分函数预测相似性。实验表明，POMMIX在低数据量场景下显著优于传统方法，并验证了"嗅觉白噪声"现象。研究为蚊虫驱避剂开发、食品香料设计等应用提供了新思路，并展示了领域知识与深度学习结合在化学感知建模中的潜力。

本文提出了一种新型血管分割模型SWinMamba，通过将蛇形窗口序列融入双向状态空间模型，有效解决了血管几何连续性（VGC）的建模难题。该方法包含三个核心组件：SWToken采用蛇形窗口自适应分割图像，提供灵活感受野；BAM通过双向聚合整合局部特征；SFFU融合空间和频率域特征以构建全面表示。在CHASE-DB1等三个数据集上的实验表明，该方法显著提升了血管分割的完整性和连通性，β0指标平均提升18.17%，同时保持较低计算成本。消融实验验证了各模块的有效性，为临床诊断和手术导航提供了更可靠的血管分割方案。

提出了一种创新的视觉基础模型DefMamba，通过可变形扫描策略动态调整扫描路径，优先捕捉重要信息。该方法将可变形机制首次引入状态空间模型(SSM)，结合深度卷积和可变形分支，设计了包含偏移网络的可变形状态空间模型(DSSM)。实验表明，DefMamba在ImageNet分类、COCO检测/分割和ADE20K语义分割等任务中性能显著优于现有SSM方法，且计算复杂度较低。该研究为SSM在视觉任务中的应用提供了新思路，但处理不完整物体结构时仍存在局限。

摘要： 本文提出DAMamba，一种基于动态自适应扫描（DAS）的视觉状态空间模型，解决了传统扫描策略在图像语义邻接性破坏和灵活性不足的问题。DAS通过数据驱动方式动态调整扫描顺序和区域，结合可学习的偏移预测网络优化特征提取。DAMamba整合多尺度层次化结构和卷积增强模块，在ImageNet-1K分类任务中达到83.8%准确率，显著超越现有SSM和ViT模型。在COCO目标检测/分割及ADE20K语义分割任务中，DAMamba分别取得最高50.6 mAP和51.9 mIoU，验证了其作为通用视觉骨干网络的

本文提出了一种新型的类增量学习方法APT（Additive Prompt Tuning），通过创新的提示调优方式解决了现有基于提示的方法计算开销大的问题。APT采用直接修改CLS token注意力计算的方式，而非传统的提示拼接方法，显著降低了计算复杂度。该方法还提出渐进式提示融合（PPF）策略，通过加权平均新旧提示有效减轻灾难性遗忘。实验表明，APT在多个基准测试中性能最优，如ImageNet-R上平均准确率提升5.2%，同时计算量减少41.5%，可训练参数减少78.2%。该方法不仅适用于类增量学习，还展现

摘要 本文提出了一种创新的交互式图像分割方法，通过在特征空间进行批注操作来同时处理多幅图像。与传统在像素空间进行单幅图像标注的模式不同，该方法将用户交互转移到特征空间，显著减少了标注工作量。实验证明，该方法在前景分割数据集上达到state-of-the-art水平，在Cityscapes语义分割数据集上实现91.5%的准确率，标注效率提升74.75倍。该研究为图像分割标注提供了新思路，可与其他方法结合进一步提升标注效率。

这篇论文重新思考了表面法线估计的归纳偏置问题，提出了创新性方法。作者指出现有基于通用密集预测模型的方法存在局限，进而提出三点改进：利用射向每个像素的射线方向作为输入，设计基于射线方向的激活函数，将法线估计重构为相对旋转估计。实验表明，该方法能生成更清晰平滑的预测结果，且在数据量较少时展现更强的泛化能力。该研究为从单RGB图像估计表面法线的任务提供了新思路，对三维重建等计算机视觉应用具有重要意义。

本文研究了CNN生成网络中的上采样操作对深度伪造检测的影响，提出了基于邻近像素关系(NPR)的新型检测方法。研究发现上采样不仅产生频率域伪影，还会在像素级留下痕迹。NPR通过计算局部窗口内像素差值关系，有效捕捉图像细节中的生成痕迹。实验在包含28种生成模型的开放数据集上进行验证，NPR方法相比现有技术取得了11.6%的性能提升，展现出优秀的泛化能力。该方法通过训练二元分类器，利用NPR特征区分真实与合成图像，为深度伪造检测提供了新思路。

在这篇综述中，我们专注于文献中最广泛研究的技术，包括同态加密（HE）、安全多方计算（MPC）、可信执行环境（TEE）、差分隐私（DP）和联邦学习（FL）。最近的进展极大地增加了这些技术在生物医学领域的适用性，正如我们在这篇综述中所说明的。与将 PETs 描述为解决生物医学数据共享挑战的潜在解决方案的现有综述（5-9）不同，我们专注于提供 PETs 最新进展的易于理解的总结，检查其技术基础和生物医学应用。

具体来说，本文将 NeurIPS 2023 发表的第一版工作中的脉冲驱动的 Transformer 扩展为元架构，并探索了结构、脉冲驱动自注意力和跳跃连接对其性能的影响。

这项研究对主流扫描方向及其组合对遥感图像语义分割的影响进行了全面的实验研究。通过在 LoveDA，ISPRS Potsdam 和 ISPRS Vaihingen 数据集上进行的广泛实验，我们证明，**无论其复杂性或所涉及的扫描方向数量如何，都没有单一的扫描策略能胜过其他扫描策略。简单的单个扫描方向被认为足以对高分辨率遥感图像进行语义分割。** 还建议了未来研究的相关方向。

本文提出了一种 CNN 和 ViT 的混合架构，即 FasterViT。这样的混合架构可以快速生成高质量 token，然后基于 Transformer 块来进一步处理这些 token。其重点在于结合架构组合和高效的注意力模块的设计，从而优化 ViT 模型的计算效率，提高图像的吞吐率，加强对于高分辨率图像的适应能力。

文章是围绕 2D 的 DCT 进行展开的，本文针对具体的计算逻辑进行梳理和解析。

这篇文章主要讨论了领域泛化评估协议的重新思考，特别是如何处理可能存在的测试数据信息泄露风险。作者首先指出，当前的领域泛化评估协议可能存在问题，可能导致测试数据信息泄露，进而影响评估的公平性和准确性。作者还根据这些建议重新评估了十个代表性的领域泛化算法，并提供了三个新的测试leaderboard。这些更改和新的测试leaderboard的板将鼓励未来的研究，并促进领域泛化的更准确评估。

本文提出了高效的 DCNv4，这是一个专为视觉应用设计的高效有效的运算符。将 DCNv4 集成到其他现代骨干架构中，包括 ConvNeXt 和 ViT，替换深度可分离卷积和密集自注意力层。值得注意的是，在没有进行任何超参数调整的情况下，这些经过精心设计的网络在使用 DCNv4 时表现得相当出色，同时速度快得多，显示了动态、稀疏的 DCNv4 的有效性和效率。这些改进使得 DCNv4 与 DCNv3 相比显示出显著更快的收敛速度，并且处理速度大大提高，DCNv4 的速度提高了三倍以上。

RALF 通过从大型词汇库中检索词汇并增强损失函数和视觉特征来提高检测器对新类别的泛化能力。通过实验，作者证明了 RALF 在 COCO 和 LVIS 基准数据集上的有效性。特别是在 COCO 数据集的新类别上，APN50 提高了 3.4%，在 LVIS 数据集的新类别上，mask APr 提高了 3.6%。