Mamba
文章平均质量分 65
Phoenixtree_DongZhao
深度学习 图像处理
展开
-
BioMamba:利用Mamba的预训练生物医学语言表示模型
在生物学领域的自然语言处理(NLP)中,模型对于解释复杂的生物医学文献至关重要。然而,传统模型在处理这一特定领域中的复杂语言时常遇到困难。本文介绍了一种名为BioMamba的预训练模型,专门设计用于挖掘生物医学文本。BioMamba基于Mamba架构,并经过大量生物医学文献的预训练。本文进行了实证研究,结果显示BioMamba在各种生物医学任务上表现明显优于BioBERT和通用领域的Mamba等模型。例如,在BioASQ测试集上使用BioMamba可以将困惑度降低100倍、交叉熵损失降低4倍。原创 2024-08-08 09:49:08 · 339 阅读 · 0 评论 -
PhysMamba:利用双流交叉注意力SSD进行远程生理测量
此外,本文还引入了交叉注意力状态空间对偶(CASSD)模块,以提高在远程生理测量任务中的性能。与实验室环境不同,在真实环境下通常存在运动伪影和噪声等因素,这会影响现有方法的性能表现。该模型集成了最先进的Mamba-2模型,并利用双流架构来学习不同的rPPG特征,从而增强其在嘈杂条件下的稳健性能。通过使用PURE、UBFC-rPPG和MMPD进行验证实验,结果显示PhysMamba在各种场景下都达到了最先进水平,并尤其在复杂环境中展示出其在实际远程心率监测应用中潜力巨大。原创 2024-08-06 08:44:43 · 182 阅读 · 0 评论 -
《A Survey of Mamba》Mamba 最新综述!!(2024-08-05)
Transformers作为最具代表性之一架构,赋予了许多先进模型以力量,特别是那些包含数十亿参数的大型语言模型,在深度学习中扮演着基础角色。因此,在本综述中对最近与 Mamba 相关联 的研究进行深入调查,主要涵盖三个方向:基于 Mambas 的模式进步、使 Mambas 适应各类数据技巧和 Mambas 可善用之处。本文对Mamba进行了全面调查,主要包括三个方面:Mamba模型的进展、使Mamba适应各种数据的技术以及Mamba在不同领域中的优势应用。这篇综述共有38页!涵盖了235篇文献!原创 2024-08-05 17:34:05 · 804 阅读 · 0 评论 -
[ACM MM 2024] Wave-Mamba:超高清暗光图像增强的小波状态空间模型
相比之下,小波变换不仅可以实现无损下采样,还可以分离图像内容和噪声,在建模长序列时避免受到噪声干扰,并充分利用状态空间模型的优势。Wave-Mamba是一种用于增强超高清低光照图像的新模型,它引入了低频状态空间块和高频增强块,并取得了领先水平的性能。为了有效地建模超高清图像的全局内容信息,本文改进了SSM并引入了LFSSBlock来恢复低频子带信息。3)此外,提出HFEBlock来校正并恢复正确的高频细节,并通过综合评估证明该方法在保持简洁架构的同时显著优于当前领先技术。原创 2024-08-05 17:13:08 · 220 阅读 · 0 评论 -
MambaST:用于高效行人检测的即插即用的跨光谱时空融合器
本研究利用最新进展中状态空间模型(Mamba),并提出了全新的多头分层修补和聚合(MHHPA)结构,在RGB图像和热图像中提取细粒度和粗粒度信息。此外,在小规模行人检测方面也取得了优异成果。在MambaST中,引入了一种创新的多头分层补丁聚集模块(MHHPA),旨在从不同层次上提取跨光谱时空特征。通过对真实世界多光谱行人检测基准KAIST进行实验,并对各种参数选择进行详细评估和消融研究,实验结果表明,在行人检测性能和效率方面有所改善(例如与基于Transformer方法相比需要更少数量级 的 模型参数)。原创 2024-08-05 14:28:46 · 480 阅读 · 0 评论 -
MHSSMamba:高光谱图像分类的多头空间光谱Mamba
MHSSMamba提出了一种名为多头空间光谱Mamba的方法,用于高光谱图像分类。该方法通过增强光谱标记和应用多头自注意力机制来捕获复杂的光谱带与空间位置之间的关系,从而在高光谱图像分类任务中表现出色。相较于传统的Mamba模型,该方法不仅提升了计算效率并捕获了长距离依赖关系,还能处理HSI中丰富的光谱信息以及高维和序列数据。在帕维亚大学、休斯顿大学、萨利纳斯和武汉龙口数据集上进行实验验证时,MHSSMamba展现出优秀的分类准确率分别为97.62%、96.92%、96.85% 和 99.49%。原创 2024-08-05 14:19:55 · 162 阅读 · 0 评论