A Survey on Multimodal Large Language Models for Autonomous Driving

515 篇文章 3 订阅

已下架不支持订阅

本文深入探讨了大型语言模型(LLM)和多模态语言模型(MLLM)在自动驾驶领域的应用,分析了MLLMs的发展、自动驾驶的历史,以及在驾驶、运输和地图系统中的工具。研究总结了LLVM-AD研讨会,提出了未来该领域需要解决的关键问题,为研究人员提供了丰富的资源,以推动MLLMs在自动驾驶中的进步。
摘要由CSDN通过智能技术生成

本文是LLM系列文章,针对《A Survey on Multimodal Large Language Models for Autonomous Driving》的翻译。

摘要

随着大型语言模型(LLM)和视觉基础模型(VFM)的出现,受益于大型模型的多模态人工智能系统有可能像人类一样感知现实世界、做出决策和控制工具。近几个月来,LLM在自动驾驶和地图系统中得到了广泛关注。尽管其潜力巨大,但仍缺乏对LLM驾驶系统应用的关键挑战、机遇和未来努力的全面了解。在本文中,我们对这一领域进行了系统的研究。我们首先介绍了多模态大语言模型(MLLMs)的背景、使用LLM的多模态模型开发以及自动驾驶的历史。然后,我们概述了用于驾驶、运输和地图系统的现有MLLM工具以及现有的数据集和基准。此外,我们总结了第一届WACV自动驾驶大型语言和视觉模型研讨会(LLVM-AD)的工作,这是第一次关于自动驾驶中LLM的研讨会。为了进一步推动这一领域的发展,我们还讨论了在自动驾驶系统中使用MLLMs需要学术界和工业界共同解决的几个重要问题。论文集可以在Awesome Multimodal LLMAutonomous Driving找到。

1 引言

  • 4
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论
深度多模态学习是一种研究方法,它将多个模态(例如语音、图像、视频等)的信息进行融合和学习。近年来,深度多模态学习取得了许多重要进展和趋势。 在多模态学习中,深度神经网络在特征提取和模态融合方面发挥了重要作用。通过深度网络的层次处理,可以有效地从原始模态数据中提取出高层次的语义特征。同时,多模态数据的融合也成为研究热点。不同模态之间的关联信息可以通过深度多模态网络进行学习和利用,提高了模型的性能。 近年来,深度多模态学习在不同领域取得了一系列重要的研究成果。在自然语言处理领域,多模态问答系统、图像字幕生成和视觉问答等任务得到了广泛研究。在计算机视觉领域,通过融合多个模态的信息,如图像和语音,可以实现更准确的物体识别和行为分析。在语音识别和语音合成领域,多模态学习也被用来提高语音处理的性能。 同时,一些趋势也值得关注。首先,多模态学习的应用正在不断扩展到更多领域,如医疗、机器人和智能交通等。其次,深度多模态学习和其他深度学习技术的结合也被广泛研究,以提高模型的性能和泛化能力。此外,深度多模态学习在大规模数据和计算资源方面的需求也值得关注。 总之,深度多模态学习是一个充满潜力和挑战的研究方向。随着技术的不断发展和应用需求的增加,我们有理由相信,深度多模态学习将在未来发挥更重要的作用。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值