英特尔 on 产业创新大会速览：开放可扩展生态、云网边端全面 AI 新品

AIGC 的火爆，已经从大模型厂商比拼参数规模、AI 应用开发落地，变为引发整个 IT 行业的深刻变革。芯片巨头英特尔最近举办了 2024 年的英特尔 on 产业创新大会，重点发布了全新的 AI 战略，推出针对 AI 的最新软硬件产品与生态合作。

全新 AI 战略：开放、可扩展、广泛生态合作

在会上，英特尔公司首席执行官帕特·基辛格概述了面向开放的、可扩展的 AI 系统的战略，其中包括硬件、软件、框架和工具。英特尔让广泛的 AI 开放生态系统参与者，如设备制造商、数据库提供商、系统集成商、软件和服务提供商等，能够提供满足企业特定生成式 AI 需求的解决方案。与此同时，亦让企业与他们已知、信任的生态系统合作伙伴展开合作并采取相应解决方案。

帕特·基辛格表示：“创新技术正在以前所未有的速度发展，每家公司都在加速成为 AI 公司，这一切都需要半导体技术提供支持。从 PC 到数据中心再到边缘，英特尔正在让 AI 走进千行百业。英特尔最新的 Gaudi、至强和酷睿平台将提供灵活的、可定制化的解决方案，满足客户和合作伙伴不断变化的需求，把握住未来的巨大机遇。”

Gaudi 3 正式推出，可用于大规模部署 AI 训练和推理

继 Gaudi 2 之后，本次大会推出用于 AI 训练和推理的 AI 加速器产品英特尔 Gaudi 3，采用 Gaudi 3 的 AI 系统可通过以太网的通用标准连接多达数万个加速器。与上一代产品相比，英特尔 Gaudi 3 将带来 4 倍的 BF16 AI 计算能力提升，以及 1.5 倍的内存带宽提升，可以为大规模部署生成式 AI 的企业带来 AI 训练和推理方面的可选产品。

英特尔 Gaudi 3 预计可大幅缩短 70 亿和 130 亿参数 Llama2 模型，以及 1750 亿参数 GPT-3 模型的训练时间。此外，在 Llama 7B、70B 和 Falcon 180B 大语言模型（LLM）的推理吞吐量和能效方面也展现了出色性能。

英特尔 Gaudi 3 提供开放的、基于社区的软件和行业标准以太网网络，允许企业灵活地从单个节点扩展到拥有数千个节点的集群、超级集群和超大集群，支持大规模的推理、微调和训练。英特尔 Gaudi 3 将于 2024 年第二季度面向 OEM 厂商出货。

全新英特尔®至强®6 处理器：面向数据中心、云和边缘

英特尔至强处理器为运行当前的生成式 AI 解决方案提供了性能高效的解决方案，包括使用专有数据生成特定业务结果的 RAG。本次大会，英特尔为面向数据中心、云和边缘的下一代处理器进行了品牌焕新，即英特尔至强 6。配备能效核（E-cores）的英特尔至强 6 处理器将于 2024 年第二季度推出，提供卓越的效率，配备性能核（P-cores）的英特尔至强 6 处理器将紧随其后推出，带来更高的 AI 性能。

配备能效核的英特尔至强 6 处理器（代号为 Sierra Forest）：

1. 与第二代英特尔®至强®处理器相比，每瓦性能提高 2.4 倍，机架密度提高 2.7 倍。
2. 客户能以近 3:1 的比例替换旧系统，大幅降低能耗，帮助其实现可持续发展目标。

配备性能核的英特尔至强 6 处理器（代号为 Granite Rapids）：

1. 包含了对 MXFP4 数据格式的软件支持，与使用 FP16 的第四代英特尔®至强®处理器相比，可将下一个令牌（token）的延迟时间最多缩短 6.5 倍，能够运行 700 亿参数的 Llama-2 模型。

AIPC、AI 优化边缘网络新品，全面发力端侧、边缘侧 AI

除了英特尔至强 6，大会还分享了客户端产品的发展势头以及诸多边缘和网络互联产品的路线图更新，包括：

• 英特尔®酷睿™Ultra处理器为生产力、安全性和内容创作提供了全新能力，并为企业焕新其PC设备提供了巨大动力。英特尔预计将于2024年出货4000万台AI PC，以及超过230种的设计，覆盖轻薄PC和游戏掌机设备。
• 将于 2024 年推出的下一代英特尔酷睿 Ultra 客户端处理器家族（代号 Lunar Lake），将具备超过 100 TOPS 平台算力，以及在神经网络处理单元（NPU）上带来超过 45 TOPS 的算力，从而为下一代 AI PC 提供强大支持。
• 英特尔发布了涵盖英特尔酷睿 Ultra、英特尔®酷睿™、英特尔凌动®处理器和英特尔锐炫™显卡系列产品在内的全新边缘芯片，主要面向零售、工业制造和医疗等关键领域。英特尔边缘AI产品组合内的所有新品将于本季度上市，并将在今年年内获得英特尔Tiber边缘平台的支持。
• 通过超以太网联盟（UEC），英特尔正在驱动面向 AI 高速互联技术（AI Fabrics）的开放式以太网网络创新，并推出一系列针对 AI 优化的以太网解决方案。这些创新旨在革新可大规模纵向（scale-up）和横向（scale-out）扩展的 AI 高速互联技术，以支持 AI 模型的训练和推理，这些模型的规模日益庞大，每一代都会增长一个数量级。英特尔的产品组合包括英特尔 AI 网络连接卡（AI NIC）、集成到 XPU 的 AI 连接芯粒、基于 Gaudi 加速器的系统，以及一系列面向英特尔代工的 AI 互联软硬件参考设计。

生态系统联合创建开放平台，助力企业 AI 创新发展

英特尔联合 Anyscale、Articul8、DataStax、Domino、Hugging Face、KX Systems、MariaDB、MinIO、Qdrant、RedHat、Redis、SAP、VMware、Yellowbrick 和 Zilliz 共同宣布，将创建一个开放平台助力企业推动 AI 创新。这一凝结全行业力量的计划旨在开发开放的、多供应商的生成式 AI 系统，通过 RAG（检索增强生成）技术，提供一流的部署便利性、性能和价值。RAG 可使企业在标准云基础设施上运行的大量现存专有数据源得到开放大语言模型（LLM）功能的增强，加速生成式 AI 在企业中的应用。

在该计划的初始阶段，基于安全的至强处理器和 Gaudi 解决方案，英特尔将面向生成式 AI 进程（pipelines）推出参考实现，发布技术概念框架，并继续增进英特尔 Tiber 开发者云平台基础设施的功能，以便为 RAG 及未来进程的生态系统开发和确认打下基础。英特尔鼓励生态系统进一步参与到这一开放平台的创建中来，以促进企业采用该平台，扩大解决方案的应用范围，并取得业务成果。

此外，英特尔发布了英特尔 Tiber 业务解决方案组合，以简化企业软件和服务的部署，包括生成式 AI。英特尔 Tiber 提供软硬件统一的体验将使企业客户和开发人员能够更轻松地找到适合其需求的解决方案，加快创新并释放价值，同时不牺牲安全性、合规性或性能。客户即日起便可开始探索英特尔 Tiber 产品组合，今年第三季度这一解决方案将会全面推出。

英特尔始终致力于让 AI 更易于使用、更开放、更安全，从而满足全球企业的不同需求。通过 Intel Vision 2024 大会上公布的全新合作和解决方案，英特尔将在 AI 浪潮中全力引领创新，让 AI 为各行各业带来前所未有的价值。