23-02-10组会论文总结

最新推荐文章于 2025-06-18 00:15:00 发布
最新推荐文章于 2025-06-18 00:15:00 发布
阅读量884 收藏 4
点赞数
CC 4.0 BY-SA版权
文章标签： 深度学习 自然语言处理 transformer
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/keel1112/article/details/129004848
文章探讨了基于Transformer的方法在超高清低光图像增强中的应用，对比了Stripformer的工作机制，并提出了可能的优化方向。此外，介绍了用于图像超分辨率的ShuffleMixerConvNet，强调其在计算效率和多尺度融合方面的潜力。DEA-Net利用细节增强卷积进行单图像去雾，而DAE-Former则展示了在医疗图像分割中双注意力引导的高效Transformer设计。

目录

Ultra-High-Definition Low-Light Image Enhancement: A Benchmark and Transformer-Based Method

在这里插入图片描述

本文的轴注意力先计算H方向的注意力，再计算W上的注意力，跟stripformer工作中计算条带间注意力的工作非常相似。下图为stripformer计算条带间注意力的模型。
stripformer计算组件注意力
可以看到stripformer是并联的。串联是否会比并联更有效，串联好像融合了更多信息，这个点可以跑跑实验证明一下。
stripformer还进行了条带内的注意力计算。另外两个创新点（双门控FFN和Layer Attention）也可以尝试融入stripformer中。

ShuffleMixer: An Efficient ConvNet for Image Super-Resolution

在这里插入图片描述
超分的工作思路感觉可以用在多尺度特征的多尺度融合。比如下图中低尺度特征的上采样过程。
在这里插入图片描述
在低尺度上用计算量也不会太大。

A Close Look at Spatial Modeling: From Attention to Convolution

在这里插入图片描述
用卷积代替Transformer，核心问题就是怎么求注意力矩阵。

DEA-Net: Single image dehazing based on detail-enhanced convolution and content-guided attention

在这里插入图片描述
对这个卷积很感兴趣，这是受边缘先验启发设计的一个细节增强卷积(DEConv)层。
这个vanilla卷积用于获得强度水平信息，而差分卷积用于增强梯度水平信息。只需将学习到的特征相加，即可获得DEConv的输出。
作者相信，更复杂的像素差计算方法的设计可以进一步有利于图像恢复任务

DAE-Former: Dual Attention-guided Efficient Transformer for Medical Image Segmentation

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
先对Q K进行归一化，然后将K与V相乘，再与Q相乘。降低了计算复杂度。

keel1112
关注
DEA-Net: Single image dehazing based ondetail-enhanced convolution and content-guidedattention
mytzs123的博客
01-25 4488
摘要——单图像去雾是一个具有挑战性的不适定问题，它从观察到的模糊图像中估计潜在的无雾图像。一些现有的基于深度学习的方法致力于通过增加卷积的深度或宽度来提高模型性能。卷积神经网络（CNN）结构的学习能力仍然没有得到充分的探索。本文提出了一种由细节增强卷积（DEConv）和内容引导注意力（CGA）组成的细节增强注意力块（DEAB），以促进特征学习，提高去雾性能。具体而言，DEConv将先验信息集成到普通卷积层中，以增强表示和泛化能力。然后，通过使用重新参数化技术，将DEConv等效地转换为vanilla卷积，不
[Python从零到壹] 十三.机器学习之聚类算法四万字总结全网首发（K-Means、BIRCH、树状聚类、MeanShift）
热门推荐
杨秀璋的专栏
07-06 2万+
欢迎大家来到“Python从零到壹”，在这里我将分享约200篇Python系列文章，带大家一起去学习和玩耍，看看Python这个有趣的世界。所有文章都将结合案例、代码和作者的经验讲解，真心想把自己近十年的编程经验分享给大家，希望对您有所帮助，文章中不足之处也请海涵。Python系列整体框架包括基础语法10篇、网络爬虫30篇、可视化分析10篇、机器学习20篇、大数据分析20篇、图像识别30篇、人工智能40篇、Python安全20篇、其他技巧10篇。您的关注、点赞和转发就是对秀璋最大的支持，知识无价人有情，希望
Stripformer: Strip Transformer for Fast Image Deblurring论文阅读
最新发布
yangqoor的博客
06-18 1070
论文旨在解决动态场景中因物体移动或相机抖动导致的**非均匀模糊（non-uniform blur）**问题。此类模糊具有方向性、区域性和多尺度特性（如短程与长程模糊），传统方法难以高效建模。Stripformer的目标是设计一种轻量化的Transformer架构，在低计算开销下实现高性能去模糊。（Strip Attention）建模模糊的方向性与多尺度特性。：同等参数量下PSNR提升0.42，FLOPs降至1/4，且无需额外数据预训练。，捕捉短程模糊方向性（图1a）。，捕捉长程模糊幅度（图1b）。
230210论文分享
creami11的博客
02-13 647
ViT在Q和K计算相似性时，对于输入为（C,H,W）的特征需要进行CHWxCHW的运算（像素维）。Restormer在Q和K计算相似性时，对于输入为（C,H,W）的特征需要进行CxC的运算（通道维）。然后shuffle。输入N组（C,H,W）的特征，做QKV的运算，得到NxN相似性矩阵。输入的N组特征里，强调重要的、抑制不重要的。CHW特征矩阵 和 池化后的小矩阵 相乘，得到相似性矩阵，而不是通过QK的计算得到。结构：中间层引入了“竞争”机制，6个节点分别连接到2个3节点层，然后选较大的节点。
DEA-Net:Single Image Dehazing Based on Detail-Enhanced Convolution and Content-Guided Attention(TIP)
qq_54492880的博客
12-01 1799
具体内容请看原论文。此文只为本人观后总结。作者：Zixuan Chen , Zewei He , and Zhe-Ming Lu , Senior Member, IEEE。
文献阅读：DEA-Net：基于细节增强卷积和内容引导注意的单图像去雾
qq_43314576的博客
03-09 1万+
本周主要阅读了文章，DEA-Net：基于细节增强卷积和内容引导注意的单图像去雾。该论文提出了提出了一种细节增强注意力块（DEAB），该模块由一个细节增强卷积（DEConv）和一个内容引导的注意力（CGA）机制组成，使得模型能够更好地保留图像的细节信息，同时又能关注图像中的重要信息，从而达到更好的去雾效果。除此之外，还学习学习了CGA模块的注意力代码模块的学习。本周主要阅读了文章，DEA-Net：基于细节增强卷积和内容引导注意的单图像去雾。
[论文解读]本文介绍了EVA-02，一种基于Transformer的视觉表示模型，通过掩码图像建模（MIM）预训练来重建强大且稳健的语言对齐视觉特征。
强化学习曾小健
11-16 1626
本文介绍了EVA-02，一种基于Transformer的视觉表示模型，通过掩码图像建模（MIM）预训练来重建强大且稳健的语言对齐视觉特征。
数值计算模型范围的取值与思考--水泵水轮机压力脉动问题--学术论文模式--个人经验总结
干吧滴！
12-15 1448
压力脉动是引起水力机械振动进而影响水泵水轮机安全运行的重要原因，使用数值模拟模型能够实现高精度且高效的压力脉动特性的计算研究。本文是博主根据以往的学习内容，以水泵水轮机压力脉动问题为例，总结并思考了一些数值计算模型中的参数范围取值的相关问题，并进一步参考了大量文献撰写而成，包括文章引用等也都做了详细的批注，花了很多时间和心血，一方面是对自己学习成果的一些总结，另一方面也希望对大家有用尽量不要直接copy哦，转载请标注，如有不当请评论或私信指出哦
动态SLAM论文(6) — Dynamic-SLAM: Semantic monocular visual localization and mapping...
几度春风里的博客
07-05 2403
在动态环境中工作时，传统的SLAM框架由于受到动态物体的干扰而表现不佳。为了解决动态环境下SLAM的问题，提出了一种基于深度学习的语义同时定位与地图构建（Dynamic-SLAM）框架。首先，基于卷积神经网络构建了一个结合先验知识的SSD目标检测器，用于在新的检测线程中以语义级别检测动态物体。然后，针对现有SSD目标检测网络的低召回率问题，提出了一种基于相邻帧中速度不变性的漏检补偿算法，大大提高了检测的召回率。
【图像超分】论文精读：Multi-scale Attention Network for Single Image Super-Resolution（MAN）
主要更新底层视觉（去噪、超分等）相关的科研内容，形式为【论文精读】+【论文复现】
05-09 402
论文题目：Multi-scale Attention Network for Single Image Super-Resolution —— 用于单幅图像超分辨率的多尺度注意网络CVPRW 2024！通过利用大核分解和注意力机制，卷积神经网络 (CNN) 可以在许多高级计算机视觉任务中与基于转换器的方法竞争。然而，由于远程建模的优势，具有自注意力的转换器仍然主导低级视觉，包括超分辨率任务。在本文中，我们提出了一种基于 CNN 的多尺度注意力网络 (MAN)，它由。
DEA-Net（2024 SCI 1区）
朴实无华的研究生活
02-05 1144
单图像去雾是一个具有挑战性的不适定问题，它从观测到的雾图像中估计潜在的无雾图像。一些现有的基于深度学习的方法致力于通过增加卷积的深度或宽度来提高模型性能。卷积神经网络（CNN）结构的学习能力仍然未被充分探索。在本文中，我们提出了一个由细节增强卷积（DEConv，detail-enhanced convolution）和内容引导注意力（CGA，content-guided attention）组成的细节增强注意力块（DEAB）以增强特征学习，提高去雾性能。具体来说，
论文阅读之 Ultra-High-Definition Low-Light Image Enhancement A Benchmark and Transformer-Based Method
qq_46401672的博客
08-27 546
论文阅读之 Ultra-High-Definition Low-Light Image Enhancement: A Benchmark and Transformer-Based Method
DEA-Net的创新点是？
weixin_42599558的博客
02-14 477
DEA-Net 的创新点在于它将图像超分辨率重建和图像去噪相结合，实现了同时获得高分辨率和高质量的图像。在传统的超分辨率方法中，往往忽略了噪声的影响，这导致了图像质量的下降。DEA-Net 通过使用去噪网络和重建网络相结合，在保证图像分辨率的同时减少了噪声的影响，从而提高了图像质量。 ...
Ultra-High-Definition Low-Light Image Enhancement: A Benchmark andTransformer-Based Method
u013049912的博客
03-14 1654
随着光学传感器质量的提高，需要处理大规模图像。特别是，设备捕获超高清 (UHD) 图像和视频的能力对图像处理管道提出了新的要求。在本文中，我们考虑低光图像增强（LLIE）的任务，并引入由 4K 和 8K 分辨率图像组成的大规模数据库。我们进行系统的基准测试研究并提供当前 LLIE 算法的比较。作为第二个贡献，我们引入了 LLFormer，一种基于 Transformer 的低光增强方法。LLFormer的核心组件是基于轴的多头自注意力和跨层注意力融合块，显着降低了线性复杂度。
【组会整理及心得】LLFormer、ShuffleMixer、FCViT、DEA-Net、DAE-Former
？？的博客
02-13 3213
0210 LLFormer、ShuffleMixer、FCViT、DEA-Net、DAE-Former
论文阅读之 Ultra-High-Definition Low-Light Image Enhancement: A Benchmark and Transformer-Based Method
qq_46401672的博客
08-18 519
提出一个新的数据集（大型数据库组成的图像分辨率4 k和8 k）我们进行系统的基准研究和提供一个当前LLIE算法的比较。作为第二贡献,比起我们介绍LLFormer的基于变压器光线增强方法。LLFormer的核心组件是基于axis的多头selfattention和跨层关注的融合,大大降低了线性复杂度。广泛的新的实验数据集和现有的公共数据集显示LLFormer优于最先进的方法。我们还表明,利用现有LLIE方法训练对我们的基准作为预处理步骤显著提高下游任务的性能,例如,在光线暗的条件下人脸检测。
【亲测免费】 推荐一款图像去雾领域的明星开源项目——DEA-Net
gitblog_00008的博客
06-14 806
推荐一款图像去雾领域的明星开源项目——DEA-Net 在图像处理领域，特别是图像去雾算法中，近期有一款名为DEA-Net的开源项目引起了广泛关注。DEA-Net不仅以其卓越的技术性能和详尽的文档说明脱颖而出，更因其在多个基准测试数据集上展现出的领先效果而备受青睐。 项目介绍 DEA-Net是由浙江大学团队研发的一款用于单幅图像去雾的深度学习模型，该模型基于细节增强卷积（DEConv）与内容引导注意...
Transformer再卷医学图像分割！DAE-Former：高效双重注意力引导的Transformer
阿木寺的博客
12-29 2018
转载自：CVHubTitle: DAE-Former: Dual Attention-guided Efficient Transformer for Medical Image SegmentationAuthor: Reza Azad et al. (亚琛工业大学)Paper: https://arxiv.org/abs/2212.13504Github: https://github.com...
特征融合篇 | 结合内容引导注意力 DEA-Net 思想 实现双主干特征融合新方法 | IEEE TIP 2024
YOLOv8项目贡献者
04-04 4266
自创双主干特征融合新方法
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值