Meta AI 发布 Llama 3.2 多模态AI模型 性能与GPT4o-mini 相当 能够在边缘设备上高效运行

Meta AI 发布 Llama 3.2多模态AI模型，旨在提供强大的自然语言处理和图像理解能力。其设计目标是提高AI在边缘计算和移动设备上的性能，

Llama 3.2包括适用于边缘和移动设备的小型和中型视觉大语言模型（11B 和 90B）以及轻量文本模型（1B 和 3B）。

• 多模态处理能力
  • LLaMA 3.2支持同时处理文本、图像和视频，能够理解并生成跨媒体内容，增强用户体验。例如，用户可以在同一交互中结合文字和图像。
• 高效边缘计算
  • 模型经过优化，能够在边缘设备上高效运行，降低延迟并提高响应速度。这使得实时应用（如视频通话中的AI助手）成为可能。
• 改进的上下文理解
  • 通过增强的上下文处理能力，LLaMA 3.2能够更好地理解复杂对话，并进行多轮交流，使得人机互动更加自然流畅。

Llama 3.2 系列中最大的两个模型，11B 和 90B，支持图像推理用例，如文档级理解，包括图表和图形的理解、图像说明以及基于自然语言描述的视觉定位任务。例如，一个人可以询问自己的小企业在去年哪一月份销售最好，Llama 3.2 可以基于可用图表进行推理并快速提供答案。在另一个示例中，模型可以根据地图进行推理，并帮助回答诸如何时徒步旅行可能变陡峭或某条特定小径的距离等问题。11B 和 90B 模型还可以通过从图像中提取细节、理解场景，然后构造一两句话作为图像说明来填补视觉和语言之间的鸿沟，从而帮助讲述故事。