如何入门车路协同轨迹预测方向，应该从哪个地方入手呢？

点击下方卡片，关注“自动驾驶之心”公众号

ADAS巨卷干货，即可获取

今天汽车人为大家分享知识星球的一周问答精选汇总，所有内容均出自【自动驾驶之心知识星球】，欢迎加入！

1、请问lvisam与r3live两个算法在哪一个更好呢，算法先进性，实时性，精确度，鲁棒性方面可以比较一下吗

• 墨染青衣：其中LVI-SAM是基于激光雷达的同步定位与建图算法，而R3LIVE是基于激光雷达-惯性-视觉融合的实时鲁棒性紧耦合系统。两个算法都有先进性和实时性，但是精确度和鲁棒性方面可能会有所不同。LVI-SAM的精度比较高，但是在退化场景下可能会出现问题。而R3LIVE则通过融合相机信息，有效解决了激光雷达在退化场景下无法正常定位的问题，并且提出了一套高精度、高效率的彩色点云重建系统，实时重建周围环境的稠密彩色点云。对于鲁棒性方面，我觉得R3LIVE可能更好一些

• 冬柳 回复 墨染青衣：lvisam也是视觉激光惯性融合的slam算法，r3live的话定位里程计部分融合了，但是建图部分雷达建图和视觉建图是分开的吗，最后得到的地图要么是视觉建的要么是雷达建的吗，建图这部分有将其融合起来吗

• 墨染青衣 回复 冬柳：LVISAM作为一种视觉惯性里程计方法,主要使用单目或者立体视觉和IMU进行定位和导航,但不涉及激光雷达。

  R3LIVE则实现了激光雷达和视觉的融合。在定位和运动估计方面,它融合了激光点云配准、视觉重投影和惯性约束进行优化。在建图方面,R3LIVE采用了两种并行的建图方式:

  使用激光雷达的深度信息进行点云映射。

  使用视觉特征点进行稀疏地图构建。

  最后R3LIVE会将两种地图对齐并进行融合,既考虑激光点云的精确度,也利用视觉地图的全局一致性。

  所以综合来说,R3LIVE相比LVISAM,在定位和建图方面都实现了多源 sensor fusion,融合了激光雷达和视觉信息,这应该是两者的一个主要区别。R3LIVE建图不仅考虑激光建图,也利用视觉信息提升了建图的鲁棒性和全局一致性。

2、萌主好，要入门车路协同轨迹预测方向，应该从哪个地方入手呢？

• wynne：我是做车路协同感知的...我感觉可以从dair数据集的论文入手

• 我明天会来看你：我也纯纯新手在做轨迹预测，这两周看了综述和部分研究论文，大概弄明白大家在做什么。现在找了一篇代码开源的论文看代码，试着复现，发现还是得把深度学习这一块的知识学习打牢，现在调包都不还不太会调

• Gloria：轨迹预测汇总可以看看咱们的轨迹预测的汇总：轨迹预测

3、各位大佬，一个多任务的model剪枝，在做稀疏化的时候效果很差，是不是因为这个模型参数本来就不冗余？那么这样的模型剪枝或压缩，有什么好办法吗

• 黄峰：效果很差不一定是没有冗余，很可能是剪枝算法选择的不对。另外，除了剪枝，还可以选择量化去压缩模型

• blueChrist*：好的 现在就是需要剪一下枝呢？我现在还是在稀疏化训练的阶段，就是基于训练好的模型加一个l1 loss，我是根据bn层的gamma去决定裁剪通道的，但就是稀疏化训练的时候会比较大的影响map

4、做泊车项目，墙是用freespace方法得到的，车库墙弯弯曲曲的，做规划时怎么确定车到墙的位置，想做凸包，但freespace点也太多了

• 满：可以考虑拟合freespace之后再进行使用，例如DBSCAN聚类之后的拟合方法，主要看你对于精度的要求程度，以及拟合后能否接受的精度

• 张玥 回复 满：每个点都有类别标签，但墙的问题是弯弯曲曲，不能很好的表现形状，freespace是用图像得到的，一个阴影会使形状不准，一个就是点多，我做了降采样。墙本身的形状有凸起，有凹进。凹进的时候，做凸包，就把很多可行驶区域包含再内了

• 满 回复 张玥：我们还应用过一种方式，基于自车按照一定半径360°进行等弧度分割，然后按照最近点进行筛选，这种也可以减少很多点数量，缺点就是有些内侧要考虑的轮廓可能就会被筛选点，可以跟规划同学讨论下想怎么使用

5、各位大佬，想问一下，我当前是研一，研究都是路侧毫米波雷达传统目标跟踪方面的算法并实现落地项目，例如聚类，EKF,UKF,PDA,MHT等传统算法，实验室这方面积累较少，没有论文产出，当前自动驾驶领域公司是否有非深度学习毫米波雷达感知的职位？如果要进入自动驾驶领域是否必须要掌握深度学习MOT算法？要获得感知算法的工作要怎么样的学习路线？

• 萌主：有的，多传感器后融合一些岗位还是对卡尔曼滤波类算法应用比较多，为了找工作的话，深度学习的MOT方法自然也是要了解的，后面技术也是进步的，比如目标跟踪也会引入一些时序，将检测和跟踪做到一起，都是可以做的。

• 感知算法：基础就是传感器的一些知识，深度学习、检测、分割、跟踪一些原理，主要是进入一个方向，多了解下这个方向的经典方法，并可以实际运行复现，后面就是针对实际场景去调整策略，优化和修复特定一些问题，整个过程还是比较考验定力的，绝不是一蹴而就的。

6、想请教一下各位大佬，这种图该怎么画...有推荐的软件吗？

• Gloria：群里大佬发言:seaborn.heatmap 可以画类似的，hiplot也可以

• 黄峰：Python和matlab应该都可以吧，对颜色和位置编码下？

7、各位大佬，想请教一下，swin transformer里面的window size是在被图像尺寸整除的基础上越大越好吗？

• 擎天柱：我认为是是的，local的window越大，local的特征也就越能cover global的信息。

8、各位大佬请问一下，我想把coco数据集里面的行人图片全部筛出来，有什么好用的脚本吗

• 擎天柱：COCO数据量不算大，根据json真值过滤下应该很快，很好写呀。

9、请问目前比较好用的多任务框架有哪些？

• 擎天柱：可以看下InvPT++

• 萌主：可以看下之前的一篇分享：https://t.zsxq.com/10dMjt18L

10、请问下，车道线检测中，道路上会有一些旧车道线影响新车道线怎么办？

• 1527：这种依赖模型不好解决，只能用车道后处理来解决了，可以尝试加一下跟踪或者看一下车道线分布规则来约束一下

• 擎天柱 ：就我的经验，解决不了。以前做车位线的时候，新老车位线也分不开

11、请教各位大佬：论文图是用什么软件绘制的？涉及点云部分的图怎么处理呢？

• 黄峰：ppt可以画2d的导图，点云的话open3d和pcl试试

12、请问有没有遇见Centerhead的检测结果有很多重叠框的情况，只有把nms阈值设的很低才能过滤掉，但是掉点很多。我看开源的centerhead配置阈值基本上是0.7，我用0.7的重叠框就很多，请问这种大概率是因为什么导致的。

• 黄峰：做个scale-nms就好啦，你可以试试看

• Barry：你用下circle-nms试试

13、新人请教一下我在用mmdetection3d训练bevfusion的时候，用的是nucense数据集，他是否支持训练kitti单目相机呢，或者自己采集数据集，应该怎么自定义数据集接口，看了下nucense数据集定义的还挺复杂的，环视相机能统一到kitti格式做训练吗。感谢

• 黄峰：如果要用kitti数据集，就要参考下nuscenes的数据格式，写个脚本对齐就好啦，我们前面也都是将自己数据集转换成nuscenes格式训练的

14、各位大佬大家好，想问个问题。就是我现在的方向是BEV感知、多传感器融合方向，但是感觉太吃算力了，实验室最多单机三卡3090，感觉后面算力不够支持我往这个方向走，想问问看有没有比较接近的方向，算力小一点的（不是特别大就行），想往其他方向靠一靠

• 萌主：后融合还好吧，BEV车道线估计也会稍微好一点，深度学习模型相关的基本都会比较耗费算力，而且想要效果好，肯定更加吃不消，而一些主要靠后处理逻辑的，比如后融合、跟踪、轨迹预测、规划控制等都会好很多

• 黄峰：多模态、BEV感知都很吃算力，Occupancy也吃，现在其它感知方向卷不动了，单目3D这个坑论文也没那么好发了，你可以试试看，车道线后处理。

15、请问一般训练获得模型存在哪里呢，方便进行版本管理，有类似git 这样的工具么

• 黄峰：存储的地方可以自己选择的，命名的时候可以自己设计下

• 萌主 ：用模型名-日期-版本号管理好就行

16、有关数据安全方面的请教，基于一些要求，我们公司要和一个竞争公司合作，需要提供我们的检测图片，如何防止对方用我们的图片去做一些模型训练？

• 萌主：如果是容易获取的图像，没有真值的图片可能用处也不大，如果是不容易获取的图像，为什么要提供，提供多少，以什么形式提供，都是需要合同里面说明的，这个既然是合作，那就看看能换回来什么，有没有加密或者加噪声的必要吧。

17、在基于路侧激光雷达做车辆轨迹预测，目前还在数据处理阶段，请问有可以实现跟踪的代码吗？通过识别连续帧，识别出车辆的轨迹，效果类似于下方的图片。（最好是python，菜鸟就会用这一个语言）或者说有在做基于雷达的自动驾驶方面的朋友吗？想一起交流一下。

• 萌主：你这个不算是轨迹预测呀，跟踪先利用卡尔曼滤波就好，比较经典，代码应该也比较多。轨迹预测是预测未来轨迹，这个是历史轨迹，就是跟踪就好了

• 我明天会来看你：我对数据来源没有太多限定，非得是雷达才行，只要是车载传感器的数据我都可以使。结合博主的建议，我感觉也还是得往轨迹预测那边做的，我现在也是做的这个新方向，要成果还挺急有机会多交流

• 萌主 ：卡尔曼的python c++代码应该都蛮多的。但套到自己的代码里面也是需要时间，而且调参也是个功夫活，急不得。。或者你去套一些开源的像deepsort

18、博主好，想问一个问题，最近项目组给的方向是自动驾驶态势预测，自己阅读了两周论文，感觉这个态势预测范围很大，我自己落脚点是在轨迹预测和实时碰撞风险评估上，通过预测周围目标物体的轨迹，来评估未来时刻自车的安全态势(碰撞风险)，但老师觉得这个评估范围太小了，不仅仅是碰撞风险。不知道博主怎么看待所谓的自动驾驶态势预测，能否从您多年的行业经验给我一些建议呢？

• 擎天柱：态势预测这个名次我第一次听说，孤陋寡闻了。可否介绍下态势预测的任务定义

• 我明天会来看你 回复 擎天柱：非常感谢回复！！！您都没听过，果然是只存在于科研理论上的畸形产物。

  自动驾驶的态势预测是指通过分析车辆周围的环境和其他交通参与者的行为，预测未来一段时间内的道路情况与交通状态。它的目标是为自动驾驶系统提供关于车辆周围环境和其他交通参与者意图的准确和可靠的信息，以便系统能够做出相应的决策和规划，实现安全、高效的自动行驶。总之，自动驾驶的态势预测是通过对车辆周围环境的分析和建模，预测未来道路情况和交通状态的过程。准确的态势预测可以帮助自动驾驶系统做出更可靠、安全的决策和规划，为实现自动驾驶的目标奠定基础。

  我是很想做的东西能在一定程度上和业界能稍微挂钩，以后找工作也方便一点。不知道这个想法实际不实际........

• 擎天柱 回复 我明天会来看你：看了同学对任务的定义，我觉得你切入轨迹预测是没有问题的。不过我觉得不需要评估碰撞风险了，那是下游产品集成做的事，比如去算ttc。你聚焦把轨迹预测的指标做好就行

• teddy.luo 回复 我明天会来看你：环境怎么表示？结果怎么表示？理出输入输出才好定义具体的模型吧

• 我明天会来看你 回复 teddy.luo：谢谢，您提的问题我下去好好思考一下。我目前最大的问题就是感觉这玩意概念很虚，落脚不到现有的点上。所以来请教博主，这样找论文也明确

• teddy.luo 回复 我明天会来看你：感知模型是为下游（一般是规划）的需求而构建，脱离具体的需求而构建的模型如果要落地可能并不现实。所以要考虑好下游的需求再来反推如何构建更具有现实意义。当然如果是在校生就无所谓了

• 我明天会来看你 回复 teddy.luo：有道理的，感谢感谢。刚起步的菜鸟土博，刚接的重点专项

19、咨询一下大佬们，除了opencalib，还有哪些lidar2camera标定的代码仓库呢，手动自动在线标定均可

• 1527：如果你有对应好的特征点，直接solverpnp就好了

• Nicky：mlcc

20、各位大佬，车道线在分流点，合流点会有几帧出错怎么办？

• 萌主：有加跟踪吗？或者针对合流和分流做一些逻辑稳定，比如检测到（或者计算得到）合流点，然后根据点的位置做一些稳定

• 用车道线的交点后处理得到比较容易，模型的话可能不那么稳定。而且数据标注也是个问题

21、萌主，我想既然很少做第一视角下的轨迹预测，那可不可以将第一视角转换成那种俯视视角，以一个点来代替一辆车，建立一个坐标系，然后根据他们运动的轨迹，当作离散的点，最后来拟合这些点来预测呢

• 擎天柱：最新的综述可以仔细看看https://t.zsxq.com/101syp8AQ

① 全网独家视频课程

BEV感知、毫米波雷达视觉融合、多传感器标定、多传感器融合、多模态3D目标检测、点云3D目标检测、目标跟踪、Occupancy、cuda与TensorRT模型部署、协同感知、语义分割、自动驾驶仿真、传感器部署、决策规划、轨迹预测等多个方向学习视频（扫码学习）

视频官网：www.zdjszx.com

② 国内首个自动驾驶学习社区

近2000人的交流社区，涉及30+自动驾驶技术栈学习路线，想要了解更多自动驾驶感知（2D检测、分割、2D/3D车道线、BEV感知、3D目标检测、Occupancy、多传感器融合、多传感器标定、目标跟踪、光流估计）、自动驾驶定位建图（SLAM、高精地图、局部在线地图）、自动驾驶规划控制/轨迹预测等领域技术方案、AI模型部署落地实战、行业动态、岗位发布，欢迎扫描下方二维码，加入自动驾驶之心知识星球，这是一个真正有干货的地方，与领域大佬交流入门、学习、工作、跳槽上的各类难题，日常分享论文+代码+视频，期待交流！

③【自动驾驶之心】技术交流群

自动驾驶之心是首个自动驾驶开发者社区，聚焦目标检测、语义分割、全景分割、实例分割、关键点检测、车道线、目标跟踪、3D目标检测、BEV感知、多模态感知、Occupancy、多传感器融合、transformer、大模型、点云处理、端到端自动驾驶、SLAM、光流估计、深度估计、轨迹预测、高精地图、NeRF、规划控制、模型部署落地、自动驾驶仿真测试、产品经理、硬件配置、AI求职交流等方向。扫码添加汽车人助理微信邀请入群，备注：学校/公司+方向+昵称（快速入群方式）

④【自动驾驶之心】平台矩阵，欢迎联系我们！