理想汽车发布首个大规模真实3D汽车数据集,RGB-D+点云+地图标注!

49cf291dd720280da945cddc0bad98a3.gif

fc89091c8cfe96ad52b9cf330f8a3e88.png

文章链接:

https://arxiv.org/abs/2406.04875

项目主页:

https://xiaobiaodu.github.io/3drealcar/

37850baee1484e7701f8455e5d4e8ab2.png

总览

3D 汽车通常用于自动驾驶系统、虚拟/增强现实和游戏中。然而,现有的 3D 汽车数据集要么是合成的,要么是低质量的,与高质量的真实世界 3D 汽车数据集存在很大差距,限制了它们在实际场景中的应用。

在本文中,我们提出了首个大规模 3D 真实汽车数据集,即 3DRealCar 数据集,该数据集具有三个显著特点:

1. 高数量:通过 3D 扫描仪对 2500 辆汽车进行细致扫描,获得具有真实世界尺寸的汽车图像和点云;

2. 高质量:每辆汽车平均有 200 个密集的、高分辨率的 360 度 RGB-D 视图,可实现高保真 3D 重建;

3. 高多样性:数据集包含 100 多个品牌的各种汽车,在三种不同的照明条件下采集,包括反光、标准和暗光。此外,我们还为每个实例提供了详细的汽车解析图,以促进汽车解析任务的研究。

9a44087a304bb6f79f8583d3964a8c23.png

94ca991edd7dc10ea4c316e68d8877e6.png

可支持的任务

由于我们的数据集提供了 RGB-D 图像、点云、汽车解析图和详细标注,因此我们可以在其中执行各种二维和 3D 任务。具体来说,我们提供了汽车解析分割标注,这表明我们的数据集可用于汽车检测、分割和解析任务。此外,我们捕获的 RGB-D 图像还支持深度估计任务。由于我们收集的汽车类型多种多样,研究人员可以利用我们的数据集对不同类型的汽车进行领域迁移学习。

至于 3D 任务,我们捕获的密集视图和点云可用于 3D 重建、3D 生成、新视图合成、车辆点云补全和车辆点云解析。有了重建的 3D 汽车,我们就可以用它们来模拟特殊场景,以训练强大的自动驾驶感知系统。

211b2a0ff73bfa766b6af154f81d8d4f.png

e3ff272c5660929b3b8452ab31c4fdec.png

3D汽车解析

我们的数据集是首个提供 3D 汽车解析注释的数据集,用于解析 3D 空间中的汽车部件。

由于我们为 3DRealCar 数据集中的每个实例提供了二维汽车解析图,因此我们可以将二维解析图提升到 3D,并为点云和网格分割每个组件。这些 3D 汽车解析图的主要目的是对汽车结构进行精确而全面的分析,这对于自动驾驶、汽车设计、汽车编辑和虚拟现实模拟等应用至关重要。

通过使用这些详细的 3D 解析图,开发人员和研究人员可以改进物体识别算法,增强碰撞检测系统。此外,该数据集还有助于训练机器学习模型,以便更好地理解汽车部件的空间关系和物理属性,从而开发出更先进、更可靠的汽车技术。

3120988613711ecc4e48a19fc5318d5d.png

81f463b1cb761bba266da58e3e9d2b4e.png

重建结果

我们在数据集中展示了最近最先进的 3D 重建方法——3DGS 的可视化效果。在标准照明条件下,3DGS 能够从我们的数据集中重建出相对高质量的 3D 汽车。需要注意的是,这种水平的重建质量足以被下游任务所利用和渲染。然而,反光和黑暗条件下的结果并不乐观。因此,我们的 3DRealCar 的这两个部分给最新的 3D 方法带来了两个挑战。

ced46f9dcf8a2013a794b10eeded8daf.png

第一个挑战是镜面高光的重建。由于汽车的特殊属性,汽车表面的材料一般都有光泽,这意味着如果汽车暴露在阳光或强光下,就会产生大量的镜面高光。

第二个挑战是黑暗环境下的重建。在黑暗环境中拍摄的训练图像在重建时会丢失大量细节。因此,如何在这两种极端光照条件下获得高质量的重建结果是对最新方法的挑战。

我们希望这些结果能够鼓励更多在恶劣条件下进行 3D 重建的后续研究。

更多阅读

5b01ec61753d24b0d51ad765fccd8a10.png

ee1979a6da0867032609bb898e86e1a9.png

2ad4bf6fad9286fcccb45a249ecb596c.png

83cac3f541456f84056d0b886eb2a998.gif

#投 稿 通 道#

 让你的文字被更多人看到 

如何才能让更多的优质内容以更短路径到达读者群体,缩短读者寻找优质内容的成本呢?答案就是:你不认识的人。

总有一些你不认识的人,知道你想知道的东西。PaperWeekly 或许可以成为一座桥梁,促使不同背景、不同方向的学者和学术灵感相互碰撞,迸发出更多的可能性。 

PaperWeekly 鼓励高校实验室或个人,在我们的平台上分享各类优质内容,可以是最新论文解读,也可以是学术热点剖析科研心得竞赛经验讲解等。我们的目的只有一个,让知识真正流动起来。

📝 稿件基本要求:

• 文章确系个人原创作品,未曾在公开渠道发表,如为其他平台已发表或待发表的文章,请明确标注 

• 稿件建议以 markdown 格式撰写,文中配图以附件形式发送,要求图片清晰,无版权问题

• PaperWeekly 尊重原作者署名权,并将为每篇被采纳的原创首发稿件,提供业内具有竞争力稿酬,具体依据文章阅读量和文章质量阶梯制结算

📬 投稿通道:

• 投稿邮箱:hr@paperweekly.site 

• 来稿请备注即时联系方式(微信),以便我们在稿件选用的第一时间联系作者

• 您也可以直接添加小编微信(pwbot02)快速投稿,备注:姓名-投稿

c8563c0df552315b3a00ea2b7af1663a.png

△长按添加PaperWeekly小编

🔍

现在,在「知乎」也能找到我们了

进入知乎首页搜索「PaperWeekly」

点击「关注」订阅我们的专栏吧

·

·

·

86b8ac3f36be55926762b975cdf4349d.jpeg

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值