腾讯多模态大模型最新综述，从26个主流大模型看多模态效果提升关键方法

在大规模语言模型（LLMs）通往通用人工智能（AGI）的道路中，从传统的单一的“语言模态”扩展到“图像”、“语音”等等的“多模态”必然是大模型进化的必经之路。

在过去的 2023 年，多模态大规模语言模型（MM LLMs）伴随着大模型本身的飞速进化也不断的产生新的突破，而年底谷歌 Gemini 的宣传片更是一举提升了人们对多模态大模型上限的想象。

而最近腾讯 AI Lab 发表了一篇关于多模态大模型的最新综述《MM-LLMs: Recent Advances in MultiModal Large Language Models》，整理归纳了现在多模态大模型的整体架构设计方向，并且提供了现有主流的 26 个多模态大模型的简介，总结了提升多模态大模型性能的关键方法，可谓一文跟上 MM LLMs 的最新前沿，一起来看看吧！

论文题目：

MM-LLMs: Recent Advances in MultiModal Large Language Models

论文链接：

https://arxiv.org/pdf/2401.13601.pdf

多模态大模型架构

如果对过去一年主流的多模态大模型按时间顺序进行排列，可以看到这样一张时间线图：

多模态大模型脱胎于大模型的发展，传统的多模态模型面临着巨大的计算开销，而 LLMs 在大量训练后掌握了关于世界的“先验知识”，因而一种自然的想法就是使用 LLMs 作为多模态大模型的先验知识与认知推动力，来加强多模态模型的性能并且降低其计算开销，从而多模态大模型这一“新领域”应运而生。

作为在语言模态上得到了良好训练的 LLMs，MM LLMs 面对的主要任务是如何有效的将 LLMs 与其他模态的信息进行结合，使其可以综合多模态的信息进行协作推理，并且最终使得 MM LLMs 的输出与人类价值观保持一致。

多模态大模型的整体架构可以被归类为如下图的五个部分，整个多模态大模型的训练可以被分为多模态理解与多模态生成两个步骤。多模态理解包含多模态编码器，输入投影与大模型主干三个部分，而多模态生成则包含输出投影与多模态生成器两个部分，通常而言，在训练过程中，多模态的编码器、生成器与大模型的参数一般都固定不变，不用于训练，主要优化的重点将落在输入投影与输出投影之中，而这两部分一般参数量仅占总体参数的 2%。

多模态编码器

如果用公式表示，多模态编码器（ME）完成的任务是编码输入的多模态信息 ，将其映射到特征空间中获得 ：

这里 用来表示如图像、视频、音频、3D 等的不同多模态信息。不同的模态对应有不同的模态编码器，对于图像，常用的编码器有 NFNet-F6、ViT、CLIP ViT 以及 Eva-CLIP ViT。其中 NFNet-F6 是一种抛弃了 Batch Norm 的 ResNet 变体，而后面三种都基于 Vision Transformer 方法。

对于音频而言，常用的编码器是 CFormer、HuBERT、BEATs 与 Whisper。对于三维点云数据而言，编码器有 ULIP-2，PointBERT 等。而对于视频而言，常用的方法是将视频均匀采样五帧，再进行与图像相同的输入编码。此外，还有类似 ImageBind 这类 any to ang one 的涵盖六种模态的统一编码器可以使用。

输入投影

输入投影主要用于将编码器编码得到的特征向量对齐到大模型擅长的文本模态空间 之中。具体而言：

其中， 一般指输入的 Prompt，为了训练输入投影，其目标是给定多模态数据集{,}，最小化其文本生成 Loss:

通常，输入投影可以直接使用多层感知器 MLP，或者也可以使用更加复杂的如 Crossattention、Q-Former、PFormer 等。

大模型主干

作为多模态大模型的核心，大模型主干主要用于参与模式的表示、语义理解、推理与决策输出，一般而言，在MM LLMs，大模型主干主要产生直接的文本输出 与指导多模态生成器生成多模态信息的信号 ，即：

MM LLMs 中常用的大模型主干有 Flan-T5，ChatGLM，UL2，Qwen、Chinchilla、OPT、PaLM、LLaMA、LLaMA-2 和 Vicuna。

输出投影

对称的，在大模型主干后紧跟着输出投影 将多模态信号 映射到多模态生成器的特征空间 :

类似的，给定数据集{,}，输出投影的目标在于：

这里 是多模态生成器中文本条件编码器输入文本 后输出的多模态信息。输入投影通常使用 MLP 或者小型的 Transformer 进行构建。

多模态生成器

多模式生成器（MG）的任务是生成不同模态的输出，通常使用潜在扩散模型（Latent Diffusion Models，LDMs) 实现，例如非常有名的用于图像生成的 Stable Diffusion，以及用于视频合成的 Zeroscope、用于音频生成的 AudioLDM-2 等。

在训练过程中，首先将真实标题通过 VAE 获得潜在特征 ，通过给 添加噪音 构建噪音潜在特征 ，使用一个预训练的 Unet 计算条件 LDM 损失 同时优化输入投影与输出投影:

多模态大模型训练

整体多模态大模型的训练可以被划分为两个主要阶段：MM PT 和 MM IT。

其中，MM PT 主要利用 X-Text 数据集，对输入投影与输出投影进行优化，其中 X-Text 数据集有图像文本对 ( ) ，交替图像文本对 ( ) ()，交替图像文本对() ()，交替图像文本对()，常用的 X-Text 数据集如下：

类似 InstructGPT 与 InstructBLIP 的思路，MM IT 阶段（Instruction Tuning）主要包含有监督微调（SFT）与基于人类反馈的强化学习(RLHF)，旨在使用一组指令数据对预训练的 MM LLMs 进行微调，在 MM IT 的过程在 MM LLMs 通过新的指令来增强其泛化能力，加强其 Zero-shot 的能力。

多模态大模型综述

介绍完多模态大模型的架构，那么多模态大模型哪家强呢？这篇综述总结了 26 种大模型的核心贡献与其发展趋势，归纳成一个表如下：

在这张表中，I——>O表示输入到输出模态，其中 I 表示图像，V 表示视频，A 表示音频，3D 表示点云，而 T 表示文字。整体各个模型详细的归纳整理了多模态大模型架构各个部分使用的各个组件，其中 #.PT 与 #.IT 指代表MM PT 与MM IT 的训练数据集规模。

根据这个表，比较有代表性的 MM LLM 有例如 BLIP-2，在输入投影中创新使用轻量的 Q-Former 引入了更加高效的资源框架，在 23 年 2 月份刚面世时在多个任务中取得 SOTA。LLaVA 首先将 IT 技术（Instruction Tuning）引入多模态领域，构成了最成熟的开源多模态大模型。

Mini GPT-4 将视觉编码器 BLIP-2 和大模型 Vicuna 进行结合训练，产生了许多类似于 GPT-4 中展示的新兴视觉语言能力。X-LLM 是中科院发布的多模态大模型，使用 Q-Former构建的 X2L 接口将多个单模态编码器与 LLM 进行对齐（中科院发布多模态 ChatGPT，图片、语言、视频都可以 Chat ？中文多模态大模型力作）

VideoChat 来自上海 AI Lab，提出了以 Chat 为中心的端到端视频理解系统，以可学习的方式集成了视频和语言的基础模型，通过构建视频基础模型与 LLMs 的接口，通过对接口进行训练与学习从而完成视频与语言的对齐（上海AI lab提出VideoChat：可以与视频对话啦），InstructBLIP 是 BLIP 作者团队的续作，将指令微调的范式用于 BLIP-2 模型上面，实现了灵活多样的特征提取。PandaGPT 将大型语言模型与不同模态对齐、绑定，实现了跨模态的指令跟随能力。

Qwen-VL 是阿里开源的多模态模型，包含 Qwen-VL 与 Qwen-VL-Chat 两个版本。MiniGPT-5 则以生成式 voken 概念为基础，创新了交错视觉语言生成技术。

从这些大模型之中，作者也归纳总结了 MM LLMs 的发展趋势与方向：

1. 从具体的某一模态发展到任意到任意模型的转换（MiniGPT-4 → MiniGPT-5 → NExT-GPT）

2. 从有监督微调到基于人类反馈的强化学习（BLIP-2 → InstructBLIP → DRESS）

3. 多样化模态扩展(BLIP-2 → X-LLM，InstructBLIP → X-InstructBLIP)

4. 更高质量的数据集(LLaVA → LLaVA1.5)

5. 更高效的模型架构

多模态大模型 SOTA 与未来

统一上文中的 26 个多模态大模型，综述作者也让这些模型站上擂台，在主流的 18 个 VL 基准上对这些多模态大模型进行了测试，结果如下：

从这些 SOTA 中，作者总结了如下的几个“小trick”：

1. 更高的图像分辨率可以纳入更多的视觉细节，有利于需要细粒度的任务，但是更高的分辨率会导致额外的训练与推理成本；

2. 高质量的 SFT 数据可以显著的提升特定任务的性能；

3. 在 VILA 中，可以发现对 LLM 主干进行微调可以促进对齐，实现更好的上下文学习，并且交替图像文本对也有利于多模态能力的形成

鉴古知今，从过去这一年多以来的多模态大模型的发展出发，作者总结了 MM LLMs 未来的发展方向，在增强模型性能方面：

1. 从多模态到更多模态：目前主流的多模态停留在图像、视频、音频、3D和文本数据，但是现实世界中用于更多模态的信息（网页、表格、热图……）；

2. 统一的多模态：通过将各种类型的多模态大模型进行统一来实现各种具体的现实需求；

3. 数据集质量的提高：当前的 MM IT 数据集还有很大的提升空间，未来可以在指令范围多样化等方面增强 MM LLM 的能力；

4. 增强生成能力：大模型的主要能力尚且在“理解”这一层面，受制于 LDM 的容量，多模态大模型的生成能力还需要提升。

除了性能以外，当下的多模态大模型也呼唤着更加强大有效的评价基准，目前的基准有可能已经无法充分的挑战多模态大模型的能力。此外，多模态大模型也需要在轻量级/移动设备中部署迈出新的一步，为了在资源受限的平台中使用多模态大模型的能力，轻量级的实现至关重要，目前突出的方法有 MobileVLM，参数量少于 2000 万，大大提升了推理速度。具身智能是通往 AGI 的必由之路，多模态大模型在具身智能上的应用也需要进一步探索，目前的 MM LLMs 很大程度上还是静态的，无法适应具身智能动态多阶段的需求。

总结与讨论

在腾讯 2024 数字科技前沿应用趋势中，强调了“通用人工智能渐行渐近，大模型走向多模态，AI智能体（Agent）有望成为下一代平台”。当下多模态大模型不仅仅是学界新宠，也是未来行业发展进步的一大方向，站在这篇综述的基础之上，期待我们可以更快更好的理解未来多模态大模型的发展，赶上这波通用人工智能的新浪潮！

如何系统的去学习大模型LLM ？

作为一名热心肠的互联网老兵，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。

但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的 AI大模型资料 包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

😝有需要的小伙伴，可以V扫描下方二维码免费领取🆓

一、全套AGI大模型学习路线

AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！

二、640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

四、AI大模型商业化落地方案

阶段1：AI大模型时代的基础理解

• 目标：了解AI大模型的基本概念、发展历程和核心原理。
• 内容：
  • L1.1 人工智能简述与大模型起源
  • L1.2 大模型与通用人工智能
  • L1.3 GPT模型的发展历程
  • L1.4 模型工程
    - L1.4.1 知识大模型
    - L1.4.2 生产大模型
    - L1.4.3 模型工程方法论
    - L1.4.4 模型工程实践
  • L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

• 目标：掌握AI大模型API的使用和开发，以及相关的编程技能。
• 内容：
  • L2.1 API接口
    - L2.1.1 OpenAI API接口
    - L2.1.2 Python接口接入
    - L2.1.3 BOT工具类框架
    - L2.1.4 代码示例
  • L2.2 Prompt框架
    - L2.2.1 什么是Prompt
    - L2.2.2 Prompt框架应用现状
    - L2.2.3 基于GPTAS的Prompt框架
    - L2.2.4 Prompt框架与Thought
    - L2.2.5 Prompt框架与提示词
  • L2.3 流水线工程
    - L2.3.1 流水线工程的概念
    - L2.3.2 流水线工程的优点
    - L2.3.3 流水线工程的应用
  • L2.4 总结与展望

阶段3：AI大模型应用架构实践

• 目标：深入理解AI大模型的应用架构，并能够进行私有化部署。
• 内容：
  • L3.1 Agent模型框架
    - L3.1.1 Agent模型框架的设计理念
    - L3.1.2 Agent模型框架的核心组件
    - L3.1.3 Agent模型框架的实现细节
  • L3.2 MetaGPT
    - L3.2.1 MetaGPT的基本概念
    - L3.2.2 MetaGPT的工作原理
    - L3.2.3 MetaGPT的应用场景
  • L3.3 ChatGLM
    - L3.3.1 ChatGLM的特点
    - L3.3.2 ChatGLM的开发环境
    - L3.3.3 ChatGLM的使用示例
  • L3.4 LLAMA
    - L3.4.1 LLAMA的特点
    - L3.4.2 LLAMA的开发环境
    - L3.4.3 LLAMA的使用示例
  • L3.5 其他大模型介绍

阶段4：AI大模型私有化部署

• 目标：掌握多种AI大模型的私有化部署，包括多模态和特定领域模型。
• 内容：
  • L4.1 模型私有化部署概述
  • L4.2 模型私有化部署的关键技术
  • L4.3 模型私有化部署的实施步骤
  • L4.4 模型私有化部署的应用场景

学习计划：

• 阶段1：1-2个月，建立AI大模型的基础知识体系。
• 阶段2：2-3个月，专注于API应用开发能力的提升。
• 阶段3：3-4个月，深入实践AI大模型的应用架构和私有化部署。
• 阶段4：4-5个月，专注于高级模型的应用和部署。

这份完整版的大模型 LLM 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

😝有需要的小伙伴，可以Vx扫描下方二维码免费领取🆓