Snapdragon Summit 的 AI 突破：展望设备端 AI 的未来

高通技术公司在 2024 年 Snapdragon Summit 上展示了其在设备端人工智能（AI）领域的最新进展和未来愿景。以下是本次峰会的一些关键亮点：

骁龙8至尊版移动平台 Snapdragon 8 Elite：重新定义设备端 AI

在 Snapdragon Summit 开幕式上，高通技术公司移动、计算和 XR 部门总经理 Alex Katouzian 介绍了全新的 Snapdragon 8 Elite 移动平台。该平台旨在提供世界一流的性能和体验，其全新架构的 高通Hexagon 神经处理单元（NPU）在设备端 AI 和多模态支持方面取得了重大进展。与 Snapdragon 8 Gen 3 相比，速度提升高达45%，每瓦特性能提高45%。这意味着，消耗同样的电量，能做更多的事情。

Katouzian 首次展示了设备端多模态 AI 助手，这款助手不仅能听懂用户的指令，还能“看”到用户看到的内容，创造出更加直观和沉浸式的体验。现场演示中，用户可以通过相机实时预览与物体互动，例如，用户可以将相机对准收据并询问 AI 助手如何计算小费并分摊账单，从而节省时间和麻烦。

Snapdragon 8 Elite 的底层技术

高通技术公司产品管理高级总监 Siddhika Nevrekar 深入讲解了 Snapdragon 8 Elite 的底层技术，详细介绍了 Snapdragon 8 Elite 如何通过改进的高通AI 引擎支持高级应用和多模态 AI 助手。新引入的高通 Oryon CPU 拥有出色的多任务处理能力，帮助其他计算核心专注于各自的 AI 任务。Oryon CPU 适合处理首次推理延迟关键任务，如生产力应用，同时也负责初始化和分配 AI 工作负载，这对设备端 AI 推理至关重要。

Hexagon NPU 作为 高通 AI 引擎的核心，得到了重大改进：

• 更高吞吐量：所有加速器核心的吞吐量增加，提高了 AI 推理性能。
• 更多核心：标量和向量加速器增加了更多核心，以支持日益增长的生成式 AI 需求，特别是大型语言模型（LLM）和大型视觉模型（LVM）。
• 性能提升：在基础 LLM 上，AI 令牌率性能提高了 100%，某些 LLM 的处理速度达到每秒 70 个令牌。

Katouzian 展示的 AI 助手示例是由多种先进的 AI 模型驱动的：

• 自动语音识别（ASR）
• 大型语言模型（LLMs）
• 大型视觉模型（LVMs）
• 新的大型多模态模型（LMMs）
  由于这些模型都在 AI 引擎的不同核心上运行，这使得助手能够理解用户的语音、解释视觉输入并即时响应。Snapdragon 8 Elite 支持更长的输入窗口，这由用户可以输入的令牌数量来衡量。

骁龙座舱至尊版平台 Snapdragon Cockpit Elite：汽车领域的 AI 创新

高通技术公司汽车、工业和云计算部门总经理 Nakul Duggal 在峰会第二天宣布了 Snapdragon Cockpit Elite 平台。该平台专为功率效率和性能设计，支持变压器加速和端到端网络架构，能够处理大型基础模型。集成在 Snapdragon Cockpit Elite 系统芯片（SoC）中的最新 NPU 是一个专用的 AI 引擎，性能比前一代旗舰座舱 SoC 提高了 12 倍。这个强大的多模态 AI 引擎支持基于大型语言模型（如 Llama、Gemini、Phi3、Bloom 等）的应用。

利用这些基础模型，可以实现诸如车辆预防性维护等功能。例如，模型可以训练在车辆手册上，AI 助手可以检索有关屏幕上未知图标的信息。

结语

随着 Snapdragon 8 Elite 和 Snapdragon Cockpit Elite 的发布，高通技术公司在设备端 AI 领域迈出了重要一步。这些新平台不仅提供了卓越的性能和能效，还通过多模态 AI 助手和先进的 AI 处理能力，为用户带来了更加智能和便捷的体验。未来，期待更多创新的 AI 应用在这些平台上涌现，继续推动智能设备的发展。