【YOLOv11改进 - 注意力机制】LSKA(Large Separable Kernel Attention)：大核分离卷积注意力模块

已于 2024-10-18 11:23:52 修改
阅读量2.4k 收藏 16
点赞数 8
分类专栏： YOLO11创新改进涨点与实战案例 文章标签： YOLO yolov11 目标检测 视觉检测 注意力机制
于 2024-10-18 11:04:18 首次发布
原创文章，禁止任何形式转载！
本文链接：https://blog.csdn.net/shangyanaf/article/details/143037077
版权

YOLOv11目标检测创新改进与实战案例专栏

文章目录： YOLOv11创新改进系列及项目实战目录 包含卷积，主干 注意力，检测头等创新机制 以及 各种目标检测分割项目实战案例

专栏链接: YOLOv11目标检测创新改进与实战案例

在这里插入图片描述

文章目录

介绍

image-20240527212823405

摘要

带有大卷积核注意力（LKA）模块的视觉注意网络（VAN）在一系列基于视觉的任务上表现出色，超越了视觉Transfo

了解本专栏 订阅专栏 解锁全文
【YOLOv8改进-注意力机制】LSKA(Large Separable Kernel Attention)：大核分离卷积注意力模块
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
05-27 1712
【YOLOv8改进-注意力机制】LSKA(Large Separable Kernel Attention)：大核分离卷积注意力模块然而，这些LKA模块中的深度卷积层随着卷积核尺寸的增加，会导致计算和内存占用的二次增长。为了解决这些问题并使在VAN的注意力模块中使用超大卷积核成为可能，我们提出了一种大可分卷积核注意力模块家族，称为LSKA。LSKA将深度卷积层的二维卷积核分解为串联的水平和垂直一维卷积核。
YOLOv8 改进：添加 LSK 注意力机制
最新发布
走向CTO的路上...
03-13 702
通过添加 LSK 注意力机制，YOLOv8 能够更有效地捕捉特征图上的重要信息，提高检测性能，尤其是在复杂场景下展现出色的表现。这种方法不仅适用于资源受限的设备，还能在丰富多样的实际应用中提供强劲支持。
YOLOv8算法改进【NO.92】使用大核分离卷积注意力模块Large Separable Kernel Attention（LSKA）改进SPPF模块
m0_70388905的博客
12-14 2405
使用大核分离卷积注意力模块Large Separable Kernel Attention（LSKA）改进SPPF模块
大可分离核注意力（LSKA）——重新定义CNN中的大核注意力设计
gitblog_00158的博客
09-12 691
大可分离核注意力（LSKA）——重新定义CNN中的大核注意力设计 Large-Separable-Kernel-Attention 项目地址: https://gitcode.com/gh_mirrors/la/Large-Se...
大可分离核注意力： 重新思考 CNN 中的大核注意力设计
qq_37149304的博客
10-28 3603
今天刚读大可分离核注意力这篇论文，可与大家一起学习。感兴趣的可以下载论文看一下。 论文下载地址：https://arxiv.org/pdf/2309.01439.pdf 代码地址：https://github.com/StevenLauHKHK/Large-Separable-Kernel-Attention/blob/main/mmsegmentation/van.py 摘要 带有大内核注意力（LKA）模块的视觉注意力网络（VAN）已被证明在一系列基于视觉的任务中具有超越视觉转换器（ViT）的卓越性能。然
LSKA（大可分离核注意力）：重新思考CNN大核注意力设计
热门推荐
AI浩
10-25 1万+
大型可分离核注意力（LSKA）模块的视觉注意力网络（VAN）已被证明在各种基于视觉的任务上提供了卓越的性能，超过了视觉转换器（ViTs）。然而，这些LSKA模块中的逐深度卷积层随着卷积核尺寸的增加，计算和内存占用呈二次增长。为了缓解这些问题，并使VAN的注意力模块能够使用极大的卷积核，我们提出了一种大型可分离核注意力模块，称为LSKA。LSKA将深度卷积层的2D卷积核分解为级联的水平1D和垂直1D内核。与标准LKA设计不同，提出的分解使得可以直接使用注意力模块中的深度卷积层的大内核，而不需要任何额外的块。
【YOLOv10改进-注意力机制】LSKA(Large Separable Kernel Attention)：大核分离卷积注意力模块
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
06-29 1621
带有大卷积核注意力（LKA）模块的视觉注意网络（VAN）在一系列基于视觉的任务上表现出色，超越了视觉Transformer（ViTs）。然而，这些LKA模块中的深度卷积层随着卷积核尺寸的增加，会导致计算和内存占用的二次增长。为了解决这些问题并使在VAN的注意力模块中使用超大卷积核成为可能，我们提出了一种大可分卷积核注意力模块家族，称为LSKA。LSKA将深度卷积层的二维卷积核分解为串联的水平和垂直一维卷积核。
YOLOv8改进：卷积变体系列篇 | 大核分离卷积注意力模块（ Large Separable Kernel Attention），实现涨点的目标并且降低计算复杂度和显存
会AI的学姐
10-14 814
大核分离卷积注意力模块（ Large Separable Kernel Attention），实现涨点的目标并且降低计算复杂度和显存，引入到YOLOv8，与C2f结合实现二次创新；
优化改进YOLOv5算法：加入大核分离卷积注意力模块（ Large Separable Kernel Attention），实现暴力涨点同时显著减少计算复杂性和内存——(超详细)
qq_40716944的博客
10-29 1435
论文：Large Separable Kernel Attention: Rethinking theLarge Kernel Attention Design in CNN具有大内核注意力（LKA）模块的视觉注意力网络（VAN）已被证明在一系列基于视觉的任务中提供了卓越的性能，超过了视觉转换器（ViTs）。然而，随着卷积核大小的增加，这些LKA模块中的深度卷积层导致计算和内存占用的二次增加。为了缓解这些问题，并允许在VAN的注意模块中使用超大卷积核，我们提出了一个大的可分离核注意模块族，称为LSKA。LS
Yolov8-pose关键点检测：模型轻量化创新 |大型分离卷积注意力模块（ Large Separable Kernel Attention）结合C2f | 2023.8月最新发表
10-14 1640
Large Separable Kernel Attention| GFLOPs从9.6降低至8.5，mAP50从0.921提升至0.925
大核注意力Large Kernel Attention(LKA)
m0_46507285的博客
03-01 8569
这种分解方式也被叫做大核注意力(Large Kernel Attention)，即LKA。如上图所示，一个很大kernel size的卷积被分解成一个Depth-wise卷积+一个Depth-wise空洞卷积+一个1× \times× 1卷积。这样，就可以大大减少FLOPs和参数量。很有效地解决了小核卷积的local性。 class AttentionModule(nn.Module): def __init__(self, dim): super().__init__()...
LSKA~
whaosoft143ai的博客
09-09 2208
然而，在最近的研究中，作者们表明，可以通过连接级联的深度卷积和空洞的深度卷积来建模CNN中的大卷积核，而不会导致计算和内存占用的二次增加。在本节中，作者将VAN-LSKA与最先进的基于CNN的模型（即ConvNeXt、RepLKNet、SLaK和VAN-LKA VAN）以及基于Transformer的模型（即DeiT、PVT、PVTv2和Swin Transformers）进行了在ImageNet分类、ImageNet-C鲁棒性测试、COCO目标检测和ADE20K语义分割方面的比较whaosoft aiot
Large Separable Kernel Attention (LSKA) 项目使用教程
gitblog_01025的博客
09-13 944
Large Separable Kernel Attention (LSKA) 项目使用教程 Large-Separable-Kernel-Attention 项目地址: https://gitcode.com/gh_mirro...
YOLOV8改进：LSKA注意力机制改进SPPF模块
BingYelly的博客
03-22 9251
与标准的LKA设计相比，所提出的分解使得可以在注意力模块中直接使用具有大卷积核的深度卷积层，无需额外的块。这样，原始特征图中的每个元素都会根据注意力图的值进行加权，突出重要的特征，抑制不重要的特征。总的来说，LSKA注意力机制通过利用大且可分离的卷积核以及空间扩张卷积来捕捉图像的广泛上下文信息，生成注意力图，并通过这个注意力图加权原始特征，以此增强网络对于重要特征的关注度，提高模型的性能。与标准的LKA设计相比，所提出的分解使得可以在注意力模块中直接使用具有大卷积核的深度卷积层，无需额外的块。
YOLOv7改进：可变形大核注意力（D-LKA Attention），超越自注意力，实现暴力涨点 | 2023.8月最新发表
10-10 623
D-LKA Attention | 亲测在多个数据集能够实现大幅涨点
YOLOv8改进 - 注意力篇 - 引入LSKA注意力机制
浪子L的博客
09-29 3824
YOLOv8改进 - 注意力篇 - 引入LSKA注意力机制
YOLOv10改进 | 注意力篇 | YOLOv10引入LSK注意力机制
tsg6698的博客
06-14 1000
这种先验知识可能很有用，因为在没有参考足够远距离上下文的情况下，可能会错误地检测微小的遥感物体，并且不同类型物体所需的远距离上下文可能会有所不同。与传统的卷积操作相比，大尺度卷积核能够覆盖更大的感受野，从而捕捉到更丰富的上下文信息。到此本文的正式分享内容就结束了，在这里给大家推荐我的YOLOv10改进有效涨点专栏，后期我会根据各种最新的前沿顶会进行论文复现，也会对一些老的改进机制进行补充，如果大家觉得本文帮助到你了，订阅本专栏，关注后续更多的更新~在LSK.py文件里添加给出的LSK代码。
YOLOV8添加LSKA
01-07
### 修改YOLOv8实现以添加LSKA模块 为了在YOLOv8中集成LSKA（Local Spatial Key Attention）模块，需对多个文件进行调整。具体来说，在`ultralytics/nn/modules/block.py`、`ultralytics/nn/modules/__init__.py`以及`ultralytics/nn/tasks.py`这三个位置实施改动[^2]。 #### 编辑block.py文件 首先是在`ultralytics/nn/modules/block.py`内定义新的类来表示LSKA层： ```python import torch.nn as nn from torchvision.ops import DeformConv2d class LSKABlock(nn.Module): def __init__(self, c1, c2, k=3, s=1, p=None, g=1, act=True): super(LSKABlock, self).__init__() # 定义卷积操作和其他必要的组件... def forward(self, x): # 实现前向传播逻辑... pass ``` 此部分负责创建具体的LSKA机制并将其封装成可重用的形式。 #### 更新__init__.py文件 接着更新`ultralytics/nn/modules/__init__.py`以便能够导入新加入的LSKABlock类： ```python from .block import (C3, SPPF, Bottleneck, Conv, Concat, DetectMultiBackend, DFL, LSKABlock) # 新增这一行用于加载自定义的LSKA Block ``` 这一步骤确保其他地方可以方便地访问到这个新增加的功能块。 #### 调整tasks.py配置 最后是对`ultralytics/nn/tasks.py`做适当修改，使得模型结构支持SPPF中的LSKA特性： ```python if m is SPPF: c_ = int(c * e) # 计算通道数 layers.append(SPPF(c_, c_, k=k)) if not use_lsk else \ layers.append(LSKABlock(c_, c_, k=k)) ``` 这里通过条件判断语句实现了当启用LSKA选项时替换默认SPPF的行为。 完成上述更改之后，按照常规流程编写相应的YAML配置文件来进行训练即可体验带有增强版空间注意力建模能力的新版本YOLOv8网络架构。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

YOLO大师

你的打赏，我的动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值