CompletionFormer：用于深度补全的 Transformer 网络！CVPR 2023

于 2024-09-02 13:28:36 发布
阅读量6 收藏 2
点赞数
分类专栏： 从零开始的深度补全和深度估计 文章标签： transformer 网络 深度学习 自动驾驶 计算机视觉
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/2401_87064292/article/details/141817458
版权

CompletionFormer：用于深度补全的 Transformer 网络！CVPR 2023

论文地址：CVPR 2023
开源代码：https://github.com/youmi-zym/CompletionFormer

在这里插入图片描述

摘要

CompletionFormer 结合卷积神经网络（CNN）和 Vision Transformer，提出了一种联合卷积注意力和 Transformer 块（JCAT），用于深度补全任务。该方法将卷积的局部连接性和 Transformer 的全局上下文结合到一个单一模型中，从而在户外 KITTI 和室内 NYUv2 数据集上超越了现有的基于 CNN 的方法，并在效率上显著优于纯 Transformer 方法。

方法

了解本专栏 订阅专栏 解锁全文 超级会员免费看
小寒学姐学AI
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
订阅专栏
【CVPR‘23】CompletionFormer：用于深度补全的 Transformer 网络！已开源
梁瑛平的博客
08-28 196
CompletionFormer 结合卷积神经网络（CNN）和 Vision Transformer，提出了一种联合卷积注意力和 Transformer 块（JCAT），用于深度补全任务。该方法将卷积的局部连接性和 Transformer 的全局上下文结合到一个单一模型中，从而在户外 KITTI 和室内 NYUv2 数据集上超越了现有的基于 CNN 的方法，并在效率上显著优于纯 Transformer 方法。
【第74篇】 FasterNet：CVPR2023年最新的网络，基于部分卷积PConv，性能远超MobileNet，MobileVit
热门推荐
AI浩
03-13 1万+
为了设计快速神经网络，许多工作都专注于减少浮点运算(FLOPs)的数量。然而，我们观察到这样的flop减少并不一定会导致类似水平的延迟减少。这主要源于低效的低浮点运算每秒(FLOPS)。为了实现更快的网络，我们重新考察了流行的运算符，并证明了这样低的FLOPS主要是由于运算符频繁的内存访问，特别是深度卷积。因此，我们提出了一种新的部分卷积(PConv)，通过同时减少冗余计算和内存访问，更有效地提取空间特征。
CVPR2023 | 集成预训练金字塔结构的Transformer模型
CV技术指南（微信公众号）
03-15 1715
本文提出了一种新的预训练模型架构（iTPN ），该架构由多个金字塔形的Transformer层组成。每个层都包含多个子层，其中一些是普通的self-attention和feed-forward层，而另一些则是新的pyramid层。Pyramid层是一种新的层类型，它被设计为对输入进行多粒度的表示学习。此外，iTPN 还使用了一些其他的技巧，以提高模型的鲁棒性和泛化能力。
MonoDETR：用于单目3D检测的深度感知transformer（CVPR2022）
3D视觉工坊
05-16 3311
作者丨zyrant@知乎来源丨https://zhuanlan.zhihu.com/p/508682621编辑丨3D视觉工坊-- 2022.4.29 by 周报拓展。--CVPR还有一篇MonoDTR的文章，设计初衷有点像，不过没公开代码，就先看了MonoDETR。关键词：CVPR2022, MonoDETR,Transformer文章地址：https://arxiv.o...
CVPR 2023丨最新3D点云补全方法：ProxyFormer
学姐带你玩AI的博客
08-06 2157
一个Proxy代表了点云的一个局部区域。特征和位置。: 它结合了不完整的种子特征和不完整的位置编码。(由FAPE获得)。: 它结合了预测的种子特征和随机位置编码。在训练过程中，MP也被分为：Predicted Missing Proxies (pre-MP): 它由缺失部分敏感的Transformer得到。True Missing Proxies (true-MP): 它结合了真正的缺失种子特征和真正的缺失位置编码 (由预训练的FAPE获得)。
【CVPR‘24】BP-Net：用于深度补全的双边传播网络，新 SOTA！
梁瑛平的博客
08-28 723
深度补全任务旨在从稀疏的深度测量数据和同步的彩色图像中生成密集的深度图。现有的最先进方法多为基于传播的，通常作为对初始估计的密集深度的迭代改进。然而，这些初始深度估计通常直接将卷积层应用于稀疏深度图。在本文中，我们提出了一种双边传播网络（BP-Net），在最早阶段进行深度传播，以避免直接在稀疏数据上进行卷积。具体而言，我们的方法通过一个非线性模型从附近的深度测量中传播目标深度，该模型的系数由一个多层感知器生成，并基于辐射差异和空间距离进行调整。
涨点神器：Yolov5/Yolov7引入CVPR2023 InternImage：注入新机制，扩展DCNv3，助力涨点，COCO新纪录65.4mAP！
04-17 3837
目标检测和语义分割基准的大量实验验证了InternImage-DCNV3可以获得与经过大量数据训练的精心设计的大规模视觉转换器相当或更好的性能，这表明CNN也是大规模视觉基础模型研究的一个相当大的选择。Yolov5/Yolov7引入CVPR2023 InternImage：注入新机制，扩展DCNv3，助力涨点，COCO新纪录65.4mAP！ 2）通过引入CVPR2023 DCNV3和MetaNeXtStage思想，在钢铁缺陷中取得涨点，且相比较于发表的一些论文，创新新颖程度好很多，有需要自取可以在自己数据集
【深度学习】语义分割：论文阅读：(CVPR 2022) MPViT（CNN+Transformer）：用于密集预测的多路径视觉Transformer
zhe470719的博客
05-31 9542
这里写目录标题0详情1摘要2 主要工作3 网络结构3.1 Conv-stem3.2 Multi-Scale Patch Embedding3.3 Multi-path Transformer3.3.1 多路径Transformer和局部特征卷积CoaT的因素分解自注意深度可分离卷积3.3.2Global-to-Local Feature Interaction4 实验- Semantic segmentation5总结 0详情 论文：MPViT : Multi-Path Vision Transformer
transformer：CVPR 论文链接
04-16
transformer
RK3588开发板利用udp发送和接收数据
cumtchw
09-01 308
RK3588开发板利用udp发送和接收数据
网络原理 - 初识
2302_77179144的博客
08-28 1016
计算机之间通过网络来传输数据，也称为网络通信。根据网络互连的规模不同，可以划分为局域网和⼴域网。所谓 “局域网” 和 “广域网” 只是⼀个相对的概念。
Linux高性能服务器编程 总结索引 | 第2章：IP协议详解
AsherGu的博客
08-29 1079
IP服务的特点；IPv4头部结构；IP分片；IP路由：IP模块工作流程，路由机制，路由表更新；IP转发；重定向；IPv6头部结构：IPv6固定头部结构，IPv6扩展头部
自治系统与局域网的区别
weixin_63566653的博客
08-28 494
局域网内的机器通常没有独立的IP地址，而是通过路由器进行DHCP和NAT来分配内部的IP地址，使得局域网内的设备能够通过一个公共IP地址访问外部网络。从定义上来看，自治系统和局域网的主要区别在于它们的范围和功能。此外，自治系统强调的是自主管理和路由选择的功能，而局域网则更注重于提供一个封闭的、地理上接近的设备互联环境。自治系统（AS）是一个有权自主地决定在本系统中应采用各种路由协议的小型单位，它是一个单独的可管理的网络单元，可以是一个简单的网络也可以是一个由一个或多个普通的网络管理员来控制的网络群体。
【计算机网络】UDP协议
最新发布
2301_78636079的博客
09-01 752
UDP协议
如何将十六进制的乱码转换成汉字
2401_85258690的博客
08-28 1520
可以看出，接收到的报文第一行包含了我们想要的信息，我们需要将。在TCP通信时，抓包得到的请求报文，我们需要对其进行分析，中心思想为：剔除%，用strtol将16进制乱码进行转换。
33.python socket
笔生花的博客
08-27 2073
python socket 心跳包 数据包
在Linux中杀死占用某个端口的进程
靖妖傩舞
08-28 621
选项表示强制终止进程，但这种方式可能会导致数据丢失或其他不良后果，所以在使用时要谨慎。确定要杀死的进程 PID。从上述步骤中获取到占用端口 9997 的进程 PID。
Linux网络：TCP & UDP socket
盒马的博客
08-27 1389
讲解Linux中TCP与UDP的套接字相关接口
SSH是什么？
思索的涟漪，突破自我
08-28 888
SSH的工作原理可以简单理解为，它在用户和服务器之间建立了一条“安全隧道”，通过这条隧道传输的数据都被加密，防止中间人攻击或数据泄露。公钥认证的原理是用户在本地生成一对密钥，其中公钥存放在服务器上，私钥则保存在本地。在现代互联网环境中，安全性越来越受到重视，SSH凭借其强大的加密能力和灵活的认证方式，成为了维护网络安全的重要工具之一。使用SSH时，用户只需要在终端或命令行界面输入简单的命令，就可以连接到远程服务器，执行各种操作，如文件传输、远程执行命令，甚至通过端口转发实现复杂的网络功能。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小寒学姐学AI

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值