稀疏卷积 sparse conv

已于 2022-04-28 17:56:51 修改
阅读量5.9k 收藏 10
点赞数 2
文章标签： 卷积
于 2021-05-28 10:49:50 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/hxxjxw/article/details/117355321
版权

如果某个卷积的任意输入神经元与任意输出神经元均存在连接，那么这类卷积称之为常规卷积(非稀疏卷积)；

反之，如果存在输入神经元与输入神经元之间无连接，那么这类卷积称之为稀疏卷积。

组卷积group conv，depth-wise深度卷积都属于稀疏卷积。

下面三个都属于稀疏卷积。

稀疏卷积在模型设计中的应用 - 知乎

另外一种概念的稀疏卷积多用于3D(点云)领域

卷积神经网络已经被证明对于二维图像信号处理是非常有效的。然而，对于三维点云信号，额外的维数 z 显著增加了计算量。

另一方面，与普通图像不同的是，大多数三维点云的体素是空的，这使得三维体素中的点云数据通常是稀疏信号。

hxxjxw
关注
  • 2
    点赞
  • 踩
  • 10
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
spconv:PyTorch中的空间稀疏卷积
05-01
SpConv：PyTorch空间稀疏卷积库 这是一个空间稀疏的卷积库，例如但速度更快且易于阅读。 该库提供稀疏卷积/转置，子流形卷积，逆卷积和稀疏maxpool。 2020-5-2，我们在此版本的spconv中添加了ConcatTable，JoinTable，AddTable和Identity函数，以构建ResNet和Unet。 码头工人： docker pull scrin/dev-spconv ，包含python 3.8，cuda 10.1，鱼壳，最新的pytorch和tensorflow。 在Ubuntu 16.04 / 18.04上安装 如果您使用的是pytorch 1.4+，并且遇到“ nvcc致命：未知-Wall”，则需要转到割炬软件包目录并在Caffe2Targets.cmake的INTERFACE_COMPILE_OPTIONS中删除包含“ -Wall”的标志。 此项
基于pytorch简单实现稀疏3d卷积（SECOND）
Briwisdom的博客
11-27 3921
卷积计算是深度学习模型的常见算子，在3D项目中，比如点云分割，由于点云数据是稀疏的，使用常规的卷积计算，将会加大卷积计算时间，不利于模型推理加速。由此SECOND网络提出了稀疏卷积的概念。 稀疏卷积的主要理念就是由正常的全部数据进行卷积运算，优化了为只计算有效的输入点的卷积结果。稀疏卷积的思路网上已经有很多简明扼要的文章，比如知乎的这一篇就很清晰，本文就是根据这一篇的思路实现的一个简单的稀疏卷积流程。建议先看一下先了解。 稀疏卷积的输入是有效输入点的索引坐标（哈希表）和对应的features值，大概流程
Sparse Convolution 讲解
最新发布
@bangbang的博客
03-16 998
标准的。
目标识别
热门推荐
liuheng0111的博客
08-28 5万+
1．研究意义 众所周知，当前是信息时代，信息的获得、加工、处理以及应用都有了飞跃发展。人们认识世界的重要知识来源就是图像信息，在很多场合，图像所传送的信息比其他形式的信息更丰富、真切和具体。人眼与大脑的协作使得人们可以获取、处理以及理解视觉信息，人类利用视觉感知外界环境信息的效率很高。事实上，据一些国外学者所做的统计，人类所获得外界信息有80%左右是来自眼睛摄取的图像。由此可见，视觉作为人类获取
稀疏卷积 Sparse Convolution Net
pytorch内部机制解读
03-04 1万+
概述 这是一篇对稀疏卷积讲述非常全面的文章，理解起来毫不费事。这里要和SPConv相区别，这是两个完全不同的东西。SPConv是为了解决普通33卷积算子参数冗余而设计的，一种“即插即用”计算单元，可以随时随地替换普通33卷积算子，可以用来提高模型推理速度吧。跟剪枝算法差不多。 下面要讲述的是稀疏卷积Sparse Convolution Net，转载自https://zhuanlan.zhihu.com/p/383299678，写的十分详细。通俗易懂，方便读者理解。 简介 ​ 稀疏卷积常用于3D项目（如3D
3D稀疏卷积
weixin_43823175的博客
05-06 1782
3D稀疏卷积 论文地址：https://arxiv.org/pdf/1711.10275.pdf 论文 3D Semantic Segmentation with Submanifold Sparse Convolutional Networks 摘要 卷积网络是分析图像、视频和三维形状等时空数据的重要基础。虽然其中一些数据自然密集（例如照片），但许多其他数据源本质上是稀疏的。示例包括使用激光雷达扫描仪或RGB-D相机获得的3D点云。卷积网络的标准“密集”实现在应用于此类稀疏数据时效率非常低。我们引入了新的
稀疏矩阵卷积：稀疏矩阵的卷积-matlab开发
05-30
与 CONV2 相同，但适用于稀疏矩阵
sparse conv稀疏卷积
zxyOVO的博客
04-08 4241
"""Args:"""self.features = features # 储存密集的featureself.indices = indices # 储存每个feature对应的voxel坐标系下的坐标self.spatial_shape = spatial_shape #存储voxel的最大边界self.batch_size = batch_size # 储存batch sizeself.indice_dict = {} # 储存坐标之间的对应关系...参数。
稀疏卷积【1】Submanifold Sparse Convolutional Networks
weixin_38087692的博客
07-18 6837
学习submanifold sparse convolutional networks是因为在看3D点云目标检测文章时遇到了问题，在3D点云目标检测问题中，相关算法如PVrcnn，pointnet系列，Voxelnet都使用了3D sparse convolutional作为提取特征的工具，这一部分有必要深入了解。 Submanifold Sparse Convolutional Networks 文章研究动机和目标 此处是摘要内容，我结合了最近在研究的PVrcnn文章来分析稀疏卷积。 卷积网络是分析图像
稀疏表示介绍(上)
weixin_30558305的博客
07-29 149
声明 之前虽然听过压缩感知和稀疏表示，实际上昨天才正式着手开始了解，纯属新手，如有错误，敬请指出，共同进步。 主要学习资料是 Coursera 上 Duke 大学的公开课——Image and video processing, by Pro.Guillermo Sapiro第 9 课。 由于对图像处理的了解也来自与该课程，没正经儿看过几本图像方面的书籍，...
稀疏卷积Sparse Convolution
人无远虑，必有近忧
02-28 717
使用以下稀疏图像作为输入如图所示，我们有一个5×5的3通道图像。除了P1和P2两点外，所有像素都是空，我们称像P1和P2这样的非空点为active input site。在稀疏格式中，数据列表是[[0.1,0.1,0.1], [0.2,0.2,0.2] ，索引列表是[1,2] ，[2,3] ，并且是YX顺序。在卷积过程中卷积核如下定义，每个卷积核是一个3x3矩阵。深色和浅色代表两种滤镜。有两种稀疏卷积。
SparseConvNet:子流形稀疏卷积网络
05-10
子流形稀疏卷积网络 这是用于训练子流形稀疏卷积网络的PyTorch库。 空间稀疏性 该库将引入PyTorch。 此外，它引入了子流形稀疏卷积，可用于构建计算有效的稀疏VGG / ResNet / DenseNet样式的网络。 通过常规的3x3卷积，活动（非零）站点的集合将Swift增长： 通过子流形稀疏卷积，活动位点的集合保持不变。 活动站点查看其活动邻居（绿色）；活动站点查看活动邻居。 非活动站点（红色）没有计算开销： 堆叠子流形稀疏卷积以构建VGG和ResNet类型的ConvNet，信息可以沿着活动点的线或表面流动。 断开连接的组件起初不会进行通信，尽管它们会由于跨步操作（池化或卷积）的影响而合并。 另外，在网络中添加ConvolutionWithStride2-SubmanifoldConvolution-DeconvolutionWithStride2路径可以使不相交的活动
卷积稀疏 图像融合.zip
05-08
这是基于卷积稀疏表征的图像融合源码。下载后直接解压运行。
SparseConvNet-archived:空间稀疏的卷积网络。 允许处理稀疏的2、3和4维数据。在正方形，立方，四面体，超四面体晶格上构建CNN
04-14
稀疏卷积网 空间稀疏卷积神经网络 SparseConvNet已移至 现在与和集成在一起，并且与子流形卷积集成在一起。
matlab经典小代码-sparseConv:稀疏卷积模型
05-28
matlab经典小代码sparseConv 使用稀疏模型进行内容分离的方法 sparseSeparation项目中工作的Python扩展 稀疏卷积模型的Python开发 Python开发与Matlab开发并行 根据Apache 2.0许可获得许可。 sparseConv存储库中在此处开发的例程旨在实现一种用于在矩阵矢量乘积可描述为卷积的问题中追求1-范数最小化的方法。 该特定存储库的开发工作于2012年12月开始，并使用修改为的经典MPI（）协议进行了初始并行化。 此处的幻灯片中提供了此处开发的代码：（）。 该代码的目的是简短学习可用于以稀疏方式准确解释所观察到的数据的类似波形的原型。 学习这些权重已应用于一小段甚低频波数据。 已经扩展了方法以合并多个同时的数据通道。 学习是跨样本数据的不同选择并行化的。 独立模型适合单独的数据，并就数据集的适当权重达成共识。 这种并行化级别要求我们将用于数据选择的方法显式地编码到MPI作业中。 数据实例的大小受MPI作业的本地内存和cpu能力限制。 需要仔细的参数调整，以实现合理的执行时间和负载平衡。
conv_卷积运算_
10-03
使用两个有限长序列来计算它们的线性卷积。
【OpenPCDet】稀疏卷积SPConv-v1.2代码解读(1)
10-30 2238
以下左图展示了一个2D卷积，使用一个3x3的卷积核，在单通道图像上进行卷积，其中Padding为1，得到输出。右图为一个单通道的3D卷积,与2D卷积不同之处在于，输入图像多了一个 depth 维度，卷积核也多了一个depth维度，之前2D卷积上3x3的卷积核现在变成了3x3x3。这里的3D不是通道导致的，而是深度（多层切片，多帧视频），因此，虽然输入和卷积核和输出都是3D的，但都可以是单通道的。
稀疏卷积Submanifold Sparse Convolutional Networks
weixin_43823175的博客
05-06 3313
稀疏卷积Submanifold Sparse Convolutional Networks 论文 Submanifold Sparse Convolutional Networks 论文地址：https://arxiv.org/pdf/1706.01307.pdf 本文提出了稀疏卷积，介绍了具体的做法，后续很多三维点云语义分割/目标识别都沿用了这种做法 参考：https://blog.csdn.net/u013066730/article/details/108512125论文的解释 https://zhu
【3D目标检测】稀疏卷积
AI知识搬运工
07-19 1831
稀疏卷积是对无论是2D卷积还是3D卷积进行加速运算的一种方式，其中由于3D点云的稀疏性比较大，加速将更为明显。 举例子之前的定义 为了逐步解释稀疏卷积的概念，使其更易于理解，本文以二维稀疏图像处理为例。由于稀疏信号采用数据列表和索引列表表示，二维和三维稀疏信号没有本质区别。 1. 输入定义 使用以下稀疏图像作为输入 如图所示，我们有一个5 × 5的3通道图像。除了 P1和 P2两点外，所有像素都是(0,0,0) （虽然0这个假设也很不严谨）。根据文献[1] ，P1和 P2，这种非零元素也称为a
nn.conv2d和稀疏卷积
09-06
稀疏卷积（Sparse Convolution）是一种优化技术，用于减少卷积操作中的计算量。在传统的卷积操作中，每个输入像素都会与卷积核中的每个参数进行计算，这样会导致大量的乘法和加法运算。而稀疏卷积则只对非零输入像素...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值