Point-to-Voxel Knowledge Distillation for LiDAR Semantic Segmentation 论文阅读CVPR2022

已于 2022-11-12 11:56:47 修改
阅读量1.2k 收藏 4
点赞数
文章标签： 论文阅读 深度学习 人工智能
于 2022-09-18 21:39:06 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/MikeCSDN17/article/details/126921503
版权

在这里插入图片描述

动机

本篇文章旨在将点云语义分割的复杂模型中的知识蒸馏到较轻量级的模型中。具体的实现方式为将原有的3Dbackbone网络的每一层进行裁剪，对每一层只保留原有通道数的一半，通过自监督蒸馏学习的方式，使得裁剪后的小模型依然能够达到原有的模型效果，提升模型的运行速度，更好地满足例如自动驾驶车辆的硬件限制。

贡献

由于点云数据的特殊性和局限性（例如离散性、无序性、密度不均匀），直接将传统的蒸馏方法应用到点云语义分割上很难取得好的效果，所以本文提出了一个新的知识蒸馏方法PVD，该模型在点（point）和体素（voxel）两种数据格式上将teacher中的隐藏知识蒸馏到student模型上
1、同时使用pointwise和voxelwise的输出蒸馏方式来弥补点云稀疏性上的缺陷
2、为了更好地学习数据内的结构信息，提出超体素的概念，将点云数据划分为若干个超体素，利用超体素的空间知识，使模型学习点云的空间信息
3、由于点云数据的不同区域在空间密度上有很大的差异，距离点云中心很远的物体的点数据具有很高的稀疏性，并且点云数据集内部的类别占比也并不均匀，如果在点云内进行均衡采样学习，模型会很难学到这些稀疏表示的物
最低0.47元/天 解锁文章
Mikecsdn17
关注
  • 0
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
CVPR2020论文翻译 Context Prior for Scene Segmentation
weixin_43840139的博客
10-16 387
CVPR2020: Context Prior for Scene Segmentation 题目：场景分割的上下文先验 论文地址：https://arxiv.org/pdf/2004.01547.pdf 代码地址：https://git.io/ContextPrior 摘要 最近的工作广泛探索了上下文相关性，以实现更准确的分割结果。但是，大多数方法很少区分不同类型的上下文依赖项，这可能会影响场景理解。在这项工作中，我们直接监督特征聚合以清楚地区分类内和类间上下文。具体来说，我们在Affinity Los
Point-to-Voxel Knowledge Distillation for LiDAR Semantic Segmentation论文阅读
最新发布
人无远虑，必有近忧
05-17 1921
很容易注意到网络中的四个箭头，这4个箭头就代表着本文最重要的四个损失函数，首先看后面的两个损失，分别对应着体素和点的输出损失（KL散度），前面两个箭头代表着基于超体素而生成的超体素内部点亲和度和体素亲和度的2范数损失。第二个模块是体素化模块；具体的实现方式为将原有的3D backbone网络的每一层进行裁剪，对每一层只保留原有通道数的一半，通过自监督蒸馏学习的方式，使得裁剪后的小模型依然能够达到原有的模型效果，提升模型的运行速度，更好地满足例如自动驾驶车辆的硬件限制。是指包含小样本的体素数量。
3D语义分割——PVD
steven_ysh的博客
07-19 1466
本文是阅读 CVPR2022 中的论文《Point-to-Voxel Knowledge Distillation for LiDAR Semantic Segmentation》后所做的笔记。 本文首先简要的介绍了 PVD 的主要贡献，然后对其网络结构和损失函数进行简单的介绍，文末附有论文及其相应代码的地址。......
论文阅读：Point-to-Voxel Knowledge Distillation for LiDAR Semantic Segmentation
qq_53086461的博客
10-18 813
PVD
知识蒸馏原理与PVKD论文阅读
～勿据散客～的博客
11-03 1386
通过PVD，属于同一类的特征被拉得更近，而不同类的特征在特征空间中被分开，从而产生一个非常清晰的亲和映射。SuperVoxel的数量一定是一个不小的数目，如果对每一个SuperVoxel都进行亲和蒸馏的损失计算的话，以PVKD的计算方法（本文第1.4部分），再考虑到点云的数量级，恐怕会发生维数灾难！另外，对于问题2，当两模型差异较大的情况下，微小的输入变化可能会使二者的输出有较大的差异。提取按点和体素输出的知识是不够的，因为它只考虑每个元素的知识，不能捕获周围环境的结构信息。
CVPR2020 | Context Prior：在语义分割中引入上下文先验，Cityscapes上81.3％mIoU
AI算法修炼营的博客
04-10 2677
点击上方“AI算法修炼营”，选择加星标或“置顶”标题以下，全是干货论文链接：https://arxiv.org/pdf/2004.01547.pdf代码链接：https://git.io...
[CPnet]第三部分解读
机器学习课程记录
05-17 851
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录 前言 一、pandas是什么？ 二、使用步骤 1.引入库 2.读入数据 总结 前言 提示：这里可以添加本文要记录的大概内容： 例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。 提示：以下是本篇文章正文内容，下面案例可供参考 一、pandas是什么？ 示例：pandas 是基于NumPy 的一种工具，该工具是为了解决.
CPNet：使用了上下文先验的场景分割
AI数据工厂
02-08 1330
最近的研究广泛探索了利用上下文依赖关系提高分割准确率的方法。然而，很少有研究区分不同类型（类内、类间）的上下文依赖，这对场景理解是不利的。本文直接监督特征聚合的过程，以明确区分类内、类间的上下文。具体的，提出了一个带有亲和损失（Affinity loss）的上下文先验层（Context Prior Layer），Affinity Loss构造了一个理想的Affinity map来监督上下文先验知识的学习。
PQ-NET:2020年CVPR论文“ PQ-NET”的代码
04-23
PQ网该存储库提供了本文的PyTorch实现：，，，，CVPR 2020先决条件Linux NVIDIA GPU + CUDA CuDNN Python 3.6依存关系通过pip安装python软件包依赖项： pip install -r requirements.txt 编译从带来的扩展模块： ...
3DSSD Point-Based 3D Single Stage Object Detector.pdf
10-19
"3DSSD Point-Based 3D Single Stage Object Detector" 本文是关于基于点的三维单阶段目标检测器（3DSSD），它是一种轻量级的检测器，能够在 accuracy 和 efficiency 之间达到微妙的平衡。与 voxel-based 方法不同...
Advances in Real-Time Voxel-Based GI - GDC 2018.pdf
04-12
《Advances in Real-Time Voxel-Based GI - GDC 2018》是2018年游戏开发者大会（GDC）上关于实时体素全局光照（Voxel-Based Global Illumination，简称Voxel GI）技术的一篇论文。这篇文章深入探讨了在实时图形渲染...
magicavoxel-shaders:用于 MagicaVoxel 的着色器可简化常见和重复性任务
07-24
魔法体素着色器 用于的着色器集合，用于简化常见和重复...安装并将文件从shader目录复制到您的 MagicaVoxel 安装的shader目录中。着色器查看的。问题与建议如果您遇到这些着色器的问题，请查看任何，如果尚不存在，请。
wii-voxel引擎
02-04
通过wii-voxel-engine-master这个文件名，我们可以推测这是该引擎的源代码仓库。源代码对于开发者来说是宝贵的资源，它揭示了引擎内部的工作原理，提供了学习和改进的基础。如果你对游戏开发感兴趣，尤其是体素游戏...
Voxel-Core：Godot游戏引擎的Voxel插件！
01-28
Voxel-Core是一款专为Godot游戏引擎设计的插件，旨在帮助开发者利用Voxel技术创建3D游戏。Voxel技术是一种将三维空间数据以体素（类似像素的三维单位）形式存储的方法，允许高效地处理大量3D数据，特别是在游戏场景...
Erics-MagicaVoxel-Shaders:MagicaVoxel 的着色器，包括地形生成器、生命游戏、水流模拟器、高级洪水系统等
08-05
Eric 的 MagicaVoxel 着色器又名 EMVS。 MagicaVoxel 的着色器，包括地形生成器、高级洪水系统等。国际化- 翻译，目标版本： 58 -通过翻译 -授权复制，目标版本： 0.0.7.0 （我正在寻找新的法语翻译。）项目信息当前...
【点云系列】Point-Voxel CNN for Efficient 3D Deep Learning
weixin_43882112的博客
05-06 1412
文章目录1. 概要2. 动机3.方法3.1 Point分支3.2 Voxel分支3.2.1 正则化 （Normalization）3.2.2 体素化（Voxelization）3.2.3 特征聚合（Feature Aggregation）3.2.4 去体素化（Devoxelization）3.3 融合4. 效果4.1 部件分割对比4.2 场景分割 比对4.3 目标检测4.4 可视化分析4.5 效率分析5. 思考6. 参考 1. 概要 会议：NIPS19 spotlight 论文：https://arxiv.
【模型加速】PointPillars模型TensorRT加速实验(1)
07-25 3344
在阅读这个系列文章之前假定你已经对PointPillars算法本身有一定的了解，并且有一个可用的Pytorch模型。这里的加速实验主要还是遵循"Pytorch-->ONNX-->TensorRT引擎-->推理"这一思路，暂不涉及使用TensorRT API手动搭建网络。 实验环境 系统，Ubuntu16.04 内核，Linux version 4.15.0-112-generic CUDA，10.2 Python, 3.6 Pytorch，1.4.0 ...
生成voxel——spconv源码剖析（六）
xiaohu的博客
11-24 2261
是一个只包含头文件的轻量级库，可以通过它实现。的优点是API比较简单且对。直接看代码，有详细的注释。调用时，将调用该函数。
voxel cloud connectivity segmentation-supervoxels for point clouds
08-30
voxel cloud connectivity segmentation-supervoxels是针对点云数据的一种分割方法。点云数据是由大量的离散点组成的三维空间信息，而分割即将点云数据分为具有相似属性或特征的子集，从而提取出更具有语义信息的...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值