深度之眼-CSDN博客

原创多模态时空融合全新框架！性能超越一众SOTA

多模态融合能够处理和关联来自不同模态的信息，提高决策的准确性。这其中，时空融合通过整合不同时间和空间维度上的数据，，让模型能够更深入地理解并解决现实世界中的动态和多维问题。因此，，被广泛应用于医学、自动驾驶等领域。为帮助同学们深入了解该方向，获得论文灵感，本文介绍，可参考创新点和开源代码也整理了，方便各位理解并复现。论文原文以及开源代码需要的同学看文末。

2024-05-22 18:06:38 671

原创基于UNet的遥感图像处理新成果！保持高性能同时降低计算成本

无论是在分割精度、计算效率还是在对抗图像中各种挑战的鲁棒性方面，都比传统方法更具优势。具体点讲，UNet能自动提取图像特征，避免复杂的手工特征工程。它独特的编码器-解码器结构和跳跃连接能更有效地捕捉和融合多尺度信息，以基于UNet框架的CM-Unet为例：CM-Unet用于解决高分辨率遥感图像语义分割中的孔洞、遗漏和模糊边缘分割等问题。实验表明，CM-Unet具有62毫秒/幅的快速分割速度，且平均交并比高达90.4%，而浮点运算量仅为20.95 MFLOPs。

2024-05-21 18:15:43 376

原创 ResNet结合LSTM王炸创新！最新SOTA方案预测准确率超91%

它能够同时处理图像的空间特征和时间序列数据。具体来说，通过结合ResNet在提取空间特征上的强大能力和LSTM在处理时间序列数据上的优势，我们可以在处理同时包含空间和时间信息的复杂数据时，这种结合不仅，还扩展了其应用范围。比如一种用来预测癫痫发作的预训练模型的方法，该方法结合了监督对比学习和混合模型，包括ResNet和LSTM。在CHB-MIT数据集上的实验表明，该模型在15分钟预发作期的预测中展现了SOTA性能，准确率达到91.90%，敏感性为89.64%。本文整理了。

2024-05-20 18:34:37 486

原创深度学习时间序列新突破！4大创新方向霸榜AI顶会

为解决传统时间序列预测方法在处理复杂和非线性问题上的局限性，研究者们致力于探索深度学习的方法。目前，这些深度学习模型通过端到端学习直接生成预测，简化流程提高效率。它们能够处理高维数据，并通过大数据训练提升预测精度和适应性，为时序预测提供了新颖而强大的解决方案，也因此成为了学术研究和发表论文的热门领域。本文介绍深度学习时序预测这4大创新方向，每个方向都附有，方便同学们理解学习以及复现。论文原文以及开源代码需要的同学看文末。

2024-05-17 18:29:39 464

原创代码可复现 | 2024时间序列领域相关顶会

首个全开源时间序列预测基础模型Moirai发布，它是一种通用的预测范式，让预训练模型可以处理任意时序预测任务。在零样本预测中，Moirai的性能媲美甚至超越了SOTA。MOIRAI的整体架构不仅仅是Moirai，谷歌的TimesFM、亚马逊的Chronos等都达成了时间序列领域的革命性突破。作为学术研究的热门方向，特别适用于数据点之间存在时间依赖关系的情况，比如股票市场预测、气象预报等。因此在学术界与工业界都有广泛应用，研究成果丰富且多样。

2024-05-16 18:32:02 649

原创 LSTM与GAN创新结合！模型性能起飞，准确率超98%

LSTM擅长处理和记忆长期的时间依赖关系，而GAN可以学习复杂的数据分布并生成逼真的数据样本。通过充分结合两者的优势，我们可以目前，LSTM结合GAN已经在一些领域展现出了优越的成果，比如一种用于提高现代恶意软件检测的准确性和速度的深度学习模型，它结合了LSTM和GAN，在恶意软件检测中达到了98.82%的准确率。鉴于上述优势，LSTM结合GAN已经被广泛应用于多种场景，如金融市场分析、药物发现等领域。本文整理了，并简单提炼了可参考的方法以及创新点，希望能给各位的论文添砖加瓦。

2024-05-15 18:26:36 671

原创涨点神器：即插即用特征融合模块！超低参数，性能依旧SOTA

在写论文时，一些通用性模块可以在不同的网络结构中重复使用，这，帮助我们。比如在视觉任务中，可以无缝集成到现有网络中，以灵活、简单的方式。这类模块通过专注于数据的关键点和模式，帮助模型更有效地学习特征，从而。以南航提出的AFF模块、港大等提出的即插即用轻量级模块AdaptFormer为例：AFF模块：一种即插即用的新注意力特征融合机制AFF，仅使用了35.1M的参数量就能达到性能优于SKNet、SENet等方法的效果。

2024-05-14 18:32:26 612

原创创新点！CNN与LSTM结合，实现更准预测、更快效率、更高性能！

LSTM擅长捕捉序列数据中的长期依赖关系，而CNN则擅长提取图像数据的局部特征。通过结合两者的优势，我们可以让模型同时考虑到数据的时序信息和空间信息，减少参数降低过拟合风险，从而提供因此，在学术界与工业界都有广泛应用。比如在股票预测中，这类结合模型不仅可以捕捉股票市场数据的复杂性，还可以提高预测模型在面对市场波动时的鲁棒性。本文整理了，包括引入注意力机制的策略，并简单提炼了可参考的方法以及创新点，希望能给各位的论文添砖加瓦。论文原文需要的同学看文末。

2024-05-13 18:24:28 720

原创融合Transformer与CNN，实现各任务性能巅峰，可训练参数减少80%

众所周知，通过多层卷积自动学习空间层级特征，能够有效提取图像局部特征。而通过自注意力机制全局建模，能够有效处理长距离依赖关系。通过结合这两者的优势，我们不仅可以还能举个栗子：混合架构Lite-Mono。该模型主要包含两个模块，CDC模块用于提取增强的多尺度局部特征，LGFI模块用于编码长距离的全局特征。实验表明，Lite-Mono在精度上优于Monodepth2，可训练参数减少了80%左右。目前，这种策略通过多种方式融合两种模型的优点。主流的方法包括早期层融合、横向层融合、顺序融合、并行融合等。

2024-05-11 17:00:54 639

原创结合创新！通道注意力+UNet，实现高精度分割

具体点说是在U-Net的卷积层之后添加一个通道注意力模块，这样这个模块可以学习不同通道之间的权重，并根据这些权重对通道进行加权，从而增强重要通道的特征表示。这种对比传统模型，更能捕获图像中的关键信息，并，在面对新的、未见过的图像时也能保持较高的性能。这也是为什么它本文挑选了，可借鉴的方法和创新点做了简单提炼，原文和已开源的代码都整理了，方便同学们学习和复现。

2024-05-10 18:57:04 889

原创 ICLR 2024 杰出论文开奖了！录用率31%，两篇国内论文获荣誉提名

朋友们，5月7日至11日，今年的大会在奥地利维也纳展览会议中心举行。，主要专注于深度学习和强化学习等相关技术的研究与发展。据统计，本届ICLR 2024共收到了7262篇论文，整体接收率约为31%，与去年（31.8%）基本持平。其中Spotlight论文比例为5%，Oral论文比例为1.2%。但无论是参会人数还是论文提交量，相比往年都有极大提升！近日，大会公布了。非常值得一提的是，其中有两篇国内论文获荣誉提名，分别来自北京大学和香港城市大学。我这次帮大家整理了这些。

2024-05-08 18:00:36 726

原创双热点的王炸组合！损失函数+Attention，精度与速度上实现SOTA！

它可以，帮助我们构建更加精确且高效的模型。通过结合注意力机制的聚焦能力和损失函数的优化指导，模型能够更精确地捕捉数据中的关键信息，同时减少不必要的计算消耗。这不仅提高了预测精度，还能加速模型推理过程。注意力机制在处理长序列或捕捉复杂依赖关系时占据优势，而损失函数则为模型提供了清晰的优化目标。这种结合能让模型更加有效地利用数据，不断改善其行为以达预期目标。

2024-05-07 18:04:13 530

原创性能拉满！NeRF与SLAM结合，最新SOTA参数减少30倍！

通过结合NeRF的高质量三维场景重建能力和SLAM的动态定位与环境理解能力，我们可以利用逐帧收集的数据，逐渐构建出高质量的3D场景模型，实现更加精确和细致的空间感知。这种策略可以，更容易适应新的环境和场景。同时，为满足不同应用的需求，这种结合，方便我们添加新的功能模块。以神经隐式SLAM最新方法S3-SLAM为例： S3-SLAM，一种基于神经隐式表示的SLAM算法，通过稀疏化平面参数并整合三平面的正交特征，实现了快速且高质量的跟踪与映射。

2024-05-06 18:29:03 912 1

原创零代码零训练！工业异常检测开源新SOTA来了！

它不仅无需手动设置阈值就可指示异常的存在和位置，还在提供很少正常样本的工业场景中取得了业内最好性能，方法对比图实际上，不仅是以AnomalyGPT为代表的效果优秀，研究者们还提出了这类深度学习工业异常检测方法不仅，还能让模型更好地适应复杂的工业环境和不断变化的生产条件，无论为方便同学们理解，我这次整理了，系统地梳理了这些工业异常检测的方法，帮助同学们快速找到自己的idea发出顶会。论文原文以及开源代码也整理了，更多细节建议看原文。论文原文以及开源代码需要的同学看文末。

2024-05-03 18:30:00 499

原创结合创新！频域+时间序列，预测误差降低64.7%

不仅能提供更丰富的信息，还能对于论文er来说，是个通过将复杂的时间序列数据转换成简单的频率成分，我们可以更容易地捕捉到数据的周期性和趋势，从而提高预测的准确性。通过将时间序列数据从时域转换到频域，利用频域特有的方法进行分析和特征提取，我们可以提高模型在多变量和单变量预测任务中的性能。比如代表模型CTFNet，它结合了卷积映射和时频分解的轻量级单隐层前馈神经网络，可以将多变量和单变量时间序列的预测误差分别降低 64.7% 和 53.7%！

2024-05-02 20:00:11 592

原创特征融合颠覆式创新！计算成本直降40%，准确率与性能双佳

相比传统的特征融合，能够依据输入数据的具体特性来调整融合策略，具体点讲，动态特征融合通过权值学习器为不同层次的特征在不同位置上分配了恰当的融合权重，有效捕捉特征图与原始输入图像之间的位置差异。另外，它还利用门函数基于多模态特征的实时属性来做出模态级或融合级的决策，这举个代表性栗子：复旦大学提出D-Net。作者将动态大核和动态特征融合模块集成在分层 Transformer 架构中，利用多尺度大接收域并自适应地利用全局上下文信息。

2024-05-01 18:15:00 898

原创 2024王炸组合！基于Mamba的遥感图像处理引爆顶会！

对比传统方法，基于Mamba的遥感图像处理在计算效率和分析精度方面遥遥领先，具体来说，在融合高分辨率的空间图像和低分辨率的光谱图像获取综合信息方面，Mamba可以在降维、去噪、特征提取和大规模数据集处理等方面，Mamba通过优化计算资源使用，RSMamba是一种用于遥感图像分类的高效状态空间模型，它基于Mamba，并引入了动态多路径激活机制以提升性能，能够有效地捕捉遥感图像中的全局依赖关系，具有广泛的应用潜力。

2024-04-30 17:24:44 1076

原创时间序列+即插即用注意力模块！只需几行代码，预测误差狂降35.99%

与传统的时序模型相比，注意力模块通过自适应处理输入数据的特征，以增强特征提取和空间/时间感知的能力。同时它可以很容易地集成到现有的深度学习架构中，作为一个独立的组件，即插即用，无需对整个模型架构进行大的改动。因此，这种注意力模块通常具有更少的参数和计算量，可以专注于序列中最重要的部分，忽略无关或噪声数据，从而更准确地预测未来的趋势或事件。比如只需几行代码就能降低35.99%均方误差的FECAM。为帮助同学们理解，本文整理了，有2024最新的，也有经典必看的，模块原文以及开源代码已附，方便同学们复现。

2024-04-29 18:12:30 856

原创即插即用Mamba模块全新突破！无缝集成，无痛涨点

Mamba入局图像复原了！基于Mamba的图像复原基准模型MambaIR性能超越SwinIR，达成新SOTA！MambaIR是一种引入通道注意力和局部增强的即插即用Mamba模块。这类高效、创新的模块在，通过将这些模块集成到现有的网络架构中，我们可以除此之外，即插即用Mamba模块还可以通过降低计算复杂度，，尤其是在处理长序列和大规模数据时。比如零参数、即插即用的方法Zigzag Mamba，无需额外参数调整，速度和内存利用率显著提升。为方便大家理解和运用，本次分享。

2024-04-28 18:36:30 1048

原创结合创新！LSTM+Transformer新成果登Nature，精度高达95.65%

LSTM通过门控机制有效捕捉序列中的长期依赖关系，防止梯度消失或爆炸，在处理具有长期依赖性的时间序列数据时有显著优势。而Transformer通过自注意力和多头注意力机制全面捕捉序列依赖，能够同时考虑输入序列中的所有位置，更好地理解上下文关系，实现高效的并行计算。这种策略结合了两者的优势，在各种序列分析任务中实现了更精确的预测、更好的性能表现、更高的训练效率。比如登上Nature子刊的最新混合架构，以及精度高达95.65%的BiLSTM-Transformer。本文整理了。

2024-04-26 17:38:01 987 3

原创颠覆创新！NeRF最新改进实现SOTA！渲染速度快10倍

原始的NeRF主要针对静态场景设计，对于动态场景的处理能力有限。改进后的NeRF通过引入时间维度或者与其他动态建模方法结合，能够更好地处理动态对象和场景。比如NeRF-HuGS模型。NeRF-HuGS旨在改进神经辐射场在非静态场景中的表现。通过使用启发式方法提供粗略的静态对象线索，并使用分割模型对这些线索进行精确的分割，生成准确的静态地图，从而实现对复杂场景中瞬态干扰的高效处理。在减轻非静态场景中的短暂干扰物方面，NeRF-HuGS取得了SOTA效果。

2024-04-25 18:10:35 772

原创不看后悔！第一本全面详解Transformer的综合性书籍！284页pdf下载

还有Transformer的可解释性技术，也都给你讲明白了。就深入聊聊序列到序列模型，还有它的一些局限性。然后重点讲解Transformer的各种组件，像注意力机制、多头注意力、位置编码这些，都讲得很清楚，你一看就懂。，还有相关的知识和技巧，不管你是搞语音、文本、时间序列还是计算机视觉的，都能用得上。总之，这本书就是Transformer架构的百科全书，不管你是初学者还是有一定基础的，都值得一读。先带你回顾一下Transformer架构的发展历史，看看它怎么影响学术界和工业界的。

2024-04-24 17:17:34 204

原创小样本学习登Nature！计算效率高170倍，彻底起飞

SBeA是一个用于多动物3D姿势估计、身份识别和社会行为分类的小样本学习框架，能够全面量化自由群居动物的行为，使用较少的标记帧数（约 400 帧）进行多动物三维姿态估计。结果显示SBeA成功地量化了社会行为模块的聚类性能，可以有效的分类社会行为。在多动物身份识别方面，SBeA的准确率超过 90%。这类方法能够在有限的数据情况下训练模型，，同时加快模型的开发和部署速度，让模型能够学习到更加泛化的特征，。因此，。这次我整理了，来自近一年高引用的顶会文章，原文以及开源代码已附，方便同学们复现。

2024-04-23 18:14:48 868 1

原创一举颠覆Transformer！最新Mamba结合方案刷新多个SOTA，单张GPU即可处理140k

它将基于结构化状态空间模型 (SSM) 的 Mamba 模型与 transformer 架构相结合，取两种架构之长，达到模型质量和效率兼得的效果。在吞吐量和效率等关键衡量指标上，Jamba处理128k长上下文时在成本上，Jamba一共支持256k上下文，这种十分炸裂的效果得益于其作者受此启发，为了让Mamba也可以在其他方面达到两全其美的效果，研究者们开始以期解决单一模型或方法难以克服的挑战。目前已出现不少非常值得学习的研究成果，我从中挑选了12种。

2024-04-22 18:03:56 776

原创 Transformer杀疯了！王炸成果荣登Nature，实现无限上下文长度

继DeepMind的新设计MoD大幅提升了 Transformer 效率后，谷歌又双叒开始爆改了！与之前荣登Nature子刊的life2vec不同，谷歌的新成果Infini-attention机制（无限注意力）将压缩内存引入到传统的注意机制中，并在单个Transformer块中构建了掩码局部注意力和长期线性注意力机制。这让Transformer架构大模型在有限的计算资源里处理无限长的输入，在内存大小上实现114倍压缩比。(相当于一个存放100本书的图书馆，通过新技术能存储11400本书)

2024-04-19 17:58:46 940

原创发布即疯传！李宏毅深度学习中文教程全面上新！附2024年最新修订版PDF

他以其幽默和生动的教学风格，让那些复杂难懂的机器学习概念变得易于消化。更赞的是，他的课程全程用中文讲解，为我们中文学习者提供了超大的便利！这套教程覆盖了从机器学习基础、深度学习基本概念，到卷积网络、循环神经网络、扩散模型、Transformer等共计19个章节，内容不仅全面，还特别降低了学习难度。每个公式都附有详细的推导过程，同时提供了丰富的可视化示例。强烈推荐给所有对机器学习感兴趣的朋友们！今天就给大家推荐我最近发现的一套两周前刚更新的教程，是。不论你处于哪个阶段，这些资料都对你的学习大有作用。

2024-04-18 17:45:05 557

原创 ResNet最新变体！性能反超Transformer，模型准确率达98.42%

目前ResNet（残差网络）有两大主流创新思路：一是与其他技术或模型结合，比如；二是尽管ResNet通过残差学习有效改善了深层网络的训练和性能，但同时它也面临着计算资源消耗大、过拟合风险、网络冗余和梯度相关性等挑战。为克服这些挑战，研究者们，比如性能反超Transformer的ConvNeXt、准确率高达98.42%的FC-ResNet等。这些改进方案因此，为帮助同学们深入了解，这次我整理了，有2024最新的，也有经典必看的，模型原文以及开源代码已附，方便同学们复现。

2024-04-17 17:50:30 1998 1

原创融合创新！全局特征+局部特征，性能优于Transformer

在图像处理领域，是一种常见且十分高效的策略，用于提高图像分析和识别任务的性能。全局特征反映了图像的整体属性，如颜色分布、形状轮廓等，它们通常对图像的尺度和旋转具有不变性。局部特征关注于图像中特定关键点或区域的特性，如角点或边缘，这些特征有助于识别图像中的特定对象和细节。这种融合策略综合利用了不同特征之间的优势互补，可以，是CV领域值得深入研究的重要方向。本次分享，有最新的也有经典的，可借鉴的方法和创新点我做了简单介绍，原文以及相应代码都整理了，方便同学们学习。论文原文以及开源代码需要的同学看文末。

2024-04-16 17:54:32 2075

空空如也

空空如也