极简笔记 语义分割中的self-attention变种模型

最新推荐文章于 2024-05-31 09:40:38 发布
最新推荐文章于 2024-05-31 09:40:38 发布
阅读量2k 收藏 11
点赞数
分类专栏： 极简笔记
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Hibercraft/article/details/100174316
版权

极简笔记 语义分割中的self-attention变种模型

Self-attention模块在近年来取得了比较不错的成功，其核心公式就是：
y i = 1 C ( x ) ∑ ∀ j f ( x i , x j ) g ( x j ) y_i=\frac{1}{\mathcal{C}(x)}\sum_{\forall j}f(x_i,x_j)g(x_j) yi​=C(x)1​∀j∑​f(xi​,xj​)g(xj​)
与以往的卷积网络项目，self-attention module的核心在于计算了全图特征的相似性 f ( x i , x j ) f(x_i,x_j) f(xi​,xj​)(当然这个相似性计算方式可以自己各种定义啦)，然后将全图的特征 g ( x j ) g(x_j) g(xj​)按照相似性进行聚合得到当前位置 i i i的聚合后的特征。

这样一个模块可以直接套在任何网络上，当然也包括所有semantic segmentation模型。但是只加这么一点肯定还不够发文章，于是各种针对公式和模块结构的魔改就开始了：

PSANet

https://hszhao.github.io/papers/eccv18_psanet.pdf
原公式的相似性是一个双向的相似性计算，将 f ( x i , x j ) f(x_i,x_j) f(x

最低0.47元/天 解锁文章
Hibercraft
关注
  • 0
    点赞
  • 踩
  • 11
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
论文笔记 | SSA-CNN: Semantic Self-Attention CNN for Pedestrian Detection
你的益达
08-30 2969
出处：CVPR 2019 论文：https://arxiv.org/abs/1902.09080v1 摘要： 行人检测在诸如自动驾驶的许多应用中起着重要作用。我们提出了一种方法，将语义分割结果作为自我关注线索进行探索，以显着提高行人检测性能。具体而言，多任务网络被设计为从具有弱框注释的图像数据集联合学习语义分割和行人检测。语义分割特征图与相应的卷积特征图连接，为行人检测和行人分类提供更多的辨别特征...
attention机制、self-attention、channel attention、spatial attention、multi-head attention、transformer
Leon_winter的博客
10-23 1万+
attention机制觉得是通过连接实现的
[pytorch] 试验--用CBAM注意力模块进行语义分割
ZJE
09-16 5289
CBAM是IEEE 2018的一篇文章 Convolutional Block Attention Module (CBAM) 表示卷积模块的注意力机制模块。是一种结合了空间（spatial）和通道（channel）的注意力机制模块。相比于senet只关注通道（channel）的注意力机制可以取得更好的效果。 CBAM的结构如下： 通道注意力决定了网络“lookwhat”，因为每个通道...
探索未来智能解析：PSANet - 点状空间注意力网络
gitblog_00092的博客
05-31 351
探索未来智能解析：PSANet - 点状空间注意力网络 项目地址:https://gitcode.com/hszhao/PSANet 在计算机视觉领域，场景解析是理解图像中每个像素类别的重要任务，它为自动驾驶、虚拟现实和增强现实等应用提供了强大的支撑。今天，我们向您隆重推出PSANet，一个采用点状空间注意力机制的创新性网络结构，旨在提升场景解析的精度和效率。 项目简介 PSANet是由Hengs...
语义分割 Attention模块 CVPR2019
孟志彬的博客
07-04 4626
Dual Attention Network for Scene Segmentation 该论文提出在spatial和channel维度分别进行attention操作，个人理解attention就是训练出来的Mask，代表每个point的重要性，网络图如下，代码：https://github.com/junfu1115/DANet BiSeNet: Bilateral Segmentation...
狗都能看懂的Self-Attention讲解
热门推荐
个人学习笔记
01-13 1万+
一文看懂self-attention
极简风格PPT模板-灰白-笔记本PPT模板.pptx
02-04
模板中的"2017-2018极简风格B"可能指的是该模板的设计灵感或风格沿袭自2017至2018年间的流行趋势，强调极简主义的设计理念。"Etiam vitae dui congue, semper quam vitae, luctus ligula."等拉丁文段落是常见的占位...
基础知识学习笔记-MVC（模型-视图-控制器）
12-22
用户通过 使用 控制器来 操作 模型 ，模型负责 更新 视图中的内容，用户通过 检视 视图来发现这种改变 MVC并非一种具体的技术，而是一种理念、一种开发思想 MVC具体所指是什么 Model 模型 用于封装与应用程序的业务...
极简笔记 v1.3.8官方版
01-04
为您提供极简笔记下载，极简笔记是一款现代化的Markdown笔记软件，能够在Windows、Linux、Mac系统、iPhone以及安卓平台进行数据同步。功能介绍　基本的Markdown语法，支持标题斜体加粗，支持数学公式，支持代码高亮...
《Deep Modular Co-Attention Networks for Visual Question Answering》论文笔记
01-06
1. Abstract 协同注意力机制在最近几年广泛用于 ...Self-Attention (SA) 用于发掘模块内的关系，Guided-Attention (GA) 用于发掘模块间的关联，模块的设计遵循 Transformer 一文中的 scaled dot-product attention 模块
zlibrary-attention-model-for-network-i开发笔记
最新发布
06-04
《zlibrary注意力模型在网络安全I中的开发笔记》 在当今数字化时代，网络安全成为了至关重要的议题。为了有效地检测和防御网络入侵，开发先进的检测系统显得尤为必要。本篇笔记将聚焦于利用深度学习技术，特别是...
CVPR2020 | SEAM：弱监督语义分割的自监督等变注意力机制
AI算法修炼营的博客
05-07 1328
点击上方“AI算法修炼营”，选择“星标”公众号精选作品，第一时间送达论文地址：https://arxiv.org/pdf/2004.04581.pdf代码地址：https://githu...
Self-attention module详解
Harry_Jack的博客
10-27 1072
Self-attention module详解 1. Data Input and Output 生活中解决实际问题时，可能会遇到一组向量作为输入的情况，这种输入情况称作为Vector Set as Input。这类问题常常出现在文本翻译，语音识别，图(Graph)分析中。 那么这类问题的输出，就是一组或一个label，根据输出label个数不同可以分为以下三类： 情况1. 每个向量都会有一个label #mermaid-svg-mEw8QuMFHSjtd3JG .label{font-family:'tr
深入理解Attention及变种(二)
小亮Machine Learning
12-25 2771
Meet and understand Attention         先来强烈吐槽一下CSDN的文本编辑器，垃圾、垃圾、垃圾，TMD太垃圾了！！！辛辛苦苦编辑好的博文突然就卡住了，格式什么的都变样了，心累
Arxiv 2209 | Switchable Self-attention Module
画心
09-16 1762
这篇文章设计了一种可切换式的注意力模块（题目中是self-attention，但是实际模块设计用的还是原始的通道注意力）。在本文中，实验性的发现对于不同的网络层和不同的场景中，对于注意力模块而言，选择使用合适的激励操作是更有必要的。
【深度学习-基础学习】Self-Attention 自注意力机制 笔记
qq_43513394的博客
01-02 1796
Self-Attention 主要是用来解决什么问题？对于一个Sequence的输入（多个vector），我们需要输出多个vector，但是我们不能直接将其分为N个独立分类任务，因为多个vector之间是存在相关性的，它们之间是会相互影响的，不是独立的，通过 Self-Attention 机制，我们可以通过融合上下文的信息来处理这些相关性带来的影响。
自然语言处理中的自注意力机制（Self-attention Mechanism）
weixin_33751566的博客
03-24 1299
自然语言处理中的自注意力机制（Self-attention Mechanism） 近年来，注意力（Attention）机制被广泛应用到基于深度学习的自然语言处理(NLP)各个任务中，之前我对早期注意力机制进行过一些学习总结（可见http://www.cnblogs.com/robert-dlut/p/5952032.html）。随着注意力机制的深入研究，各式各样的attention被研究者们提...
详解Self-attention
m0_46483236的博客
05-12 933
self-attention用来解决什么问题呢？ 输入是一排向量，且长度可变，例子：文字处理（输入一个句子，每次长度不一样），语音（一串声音信号其实就是一排向量） 输出是什么？三种可能性 1. 对于每一个输入都有一个label，即输入输出等长，Sequence Labeling（词性标注） 2. 对于整个sequence只有一个label（句子情感判别，说话人识别） 3. 输入输出不等长，机器自己决定输出多长，Seq2Seq任务（翻译，语音辨识） 为了更好的考虑整个sequence的资讯
【李宏毅深度学习CP10】Self-attention（part1）
发现问题，并解决问题，批判性思维
08-10 1445
学习心得 文章目录学习心得一、复杂的Input时二、Vector Set as Input2.1 文字处理1)One-Hot的Encoding2)Word Embedding2.2声音信号2.3 图2.4 分子信息三、What is the output?3.1 每一个向量都有一个对应的Label1)词性标注2)语音识别3）Social Network3.2 一整个Sequence,只需要输出一个Label1）文字的情感分析2)语音识别3）图3.3 机器要自己决定,应该要输出多少个Label四、Sequen
Sequential Self-Attention
08-12
而Sequential Self-Attention则在序列模型框架中考虑了交互物品之间的时间间隔，以探索不同时间间隔对预测下一个物品的影响。这个模型被称为TiSASRec，它不仅考虑了物品的绝对位置，还考虑了序列中物品之间的时间...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值