人工智能硬件军备竞赛 - 我们正在重塑计算？

AI 硬件竞赛：Nvidia 面临挑战，新兴公司崛起

近年来，AI 领域的快速发展催生了新的 GPU 设计，也涌现出致力于重塑计算基础的公司。这一趋势与 AI 民主化的快速发展密切相关：从个人到小型初创公司，都能够利用开源技术运行高质量的 AI 模型，这使得开源技术迅速赶上了大型科技公司的商业模型。

本文将探讨 AI 计算的未来，并指出 Nvidia 可能不会在这场 AI 硬件竞赛中独占鳌头。

Cerebras CS3：挑战 Nvidia 霸主地位

加拿大 AI 训练公司 Cerebras 推出的 CS3 芯片，拥有惊人的 4 万亿个晶体管，是 Nvidia 最近发布的 Blackwell 芯片的 20 倍。虽然晶体管数量并非衡量计算能力的唯一标准，但 CS3 芯片的规模、密度和性能依然令人印象深刻。它能够通过 248 个节点实现 256 倍的浮点运算，单个芯片的 AI 性能达到 125 petaflops，而 Nvidia 最大的单体 GPU 芯片 GB200NVL72 只有 1.4 倍的浮点运算，单个 Blackwell 芯片的性能只有 10 petaflops。CS3 芯片还拥有 44GB 的片上 SRAM，能够在单个逻辑内存空间内训练高达 4 万亿参数的 AI 模型，无需分区或重构。

GROC：加速 LLM 推理

对于个人用户来说，GROC 公司推出的 LPU（语言处理单元）芯片更具吸引力。该芯片专门用于加速 LLM 的推理，其生成速度远超其他平台和硬件。GROC LPU 能够每秒生成高达 300 个 token，远超其他 LLM 的生成速度。此外，GROC 还提供 API，其速度和价格都具有竞争力。

Truffle 1：为 Mac 用户带来 AI 加速

Truffle 公司推出的 Truffle 1 芯片则针对 Mac 用户。虽然苹果的硅芯片拥有统一内存，能够运行一些消费者级 Nvidia GPU 才能运行的 AI 模型，但其 AI 推理速度较慢，生态系统也较为薄弱。Truffle 1 芯片旨在为 Mac 用户提供更快的 AI 推理体验。

总结

AI 硬件市场竞争激烈，Nvidia 面临着来自 Cerebras、GROC 和 Truffle 等新兴公司的挑战。这些公司正在开发新一代 AI 芯片，旨在提供更强大、更快速、更实惠的 AI 计算解决方案。未来，AI 硬件市场将更加多元化，用户将拥有更多选择。