鸡冻：英伟达CSE重磅发布眼镜盒大小AI超算，每个人都可以把大模型放到桌面上了

本文链接：https://blog.csdn.net/shellyAI66/article/details/145013026

大家好，我是Shelly，一个专注于输出AI工具和科技前沿内容的AI应用教练，体验过300+款以上的AI应用工具。关注科技及大模型领域对社会的影响10年+。关注我一起驾驭AI工具，拥抱AI时代的到来。

北京时间1月7日上午10：30，英伟达首席执行官黄仁勋穿着6.5万的Tom Ford新夹克在CES 2025展会上发表了备受瞩目的主题演讲。在近90分钟的演讲中，他展示了英伟达在GPU、人工智能模型、智能驾驶、机器人等领域的最新突破。

以下是黄仁勋2025年CES大会演讲的核心内容：

RTX 50系列GPU：基于Blackwell架构，RTX 5090高端型号拥有920亿个晶体管，提供3400 TOPS算力，具备4000 AI TOPS性能，售价1999美元。RTX 5070、RTX 5070 Ti、RTX 5080和RTX 5090的售价分别为549美元、749美元、999美元和1999美元，RTX 5070性能与此前售价1599美元的RTX 4090相当，相当于降价1/3.
NVLink 72互连技术：晶体管数量达到130万亿，72个Blackwell GPU具备1.4 ExaFLOPS TE FP4计算能力，拥有2592个Grace CPU核心.
Project Digits个人AI超算：搭载全新Grace Blackwell超级芯片，支持个人直接运行2000亿参数的大模型，两台Project Digits可以跑通4050亿参数的大模型.

物理AI：将彻底改变价值50万亿美元的制造业和物流行业，所有移动的东西——从汽车、卡车到工厂和仓库——都将由机器人和AI实现。推出物理AI世界基础模型Cosmos，开源可商用，该模型可以将图像和文本转换为机器人的可操作任务，无缝集成视觉和语言理解来执行复杂动作.
AI代理：展示具有「Teat-Time Scaling」功能的Agentic AI，支持计算器、网络搜索、语义搜索、SQL搜索等工具，甚至可以生成播客。推出Nemotron模型，包括Llama Nemotron大型语言模型，分为Nano、Super和Ultra三档，AI智能体可能是下一个机器人产业，可能是价值数万亿美元机会.
AI与计算机图形结合：利用AI进行实时计算机图形渲染，如光线追踪和DLSS技术，显著提升渲染性能和效率.

Scaling law的延续与发展：提出新的Scaling law，包括后训练Scaling law和测试时计算Scaling law，推动AI模型的进一步发展和应用.
AI超级计算机的普及：Project Digits的推出，使得AI超级计算机走向桌面，让更多的个人和企业能够直接使用强大的AI计算能力.
推动工业与自动驾驶发展：通过与Omniverse和Cosmos的结合，促进工业数字化和自动驾驶汽车的发展，打造完整的机器人系统和自动驾驶解决方案.

最让我期待的还是Project Digits个人AI超算，它意味着一个全新的时代或许即将开启，让每个人都有机会把大模型妥妥地放到自己的桌面上。

这张图片展示了NVIDIA Project Digits个人AI超算的内部结构和主要技术参数。以下是图片中标注的关键组件和它们的功能：

GB10 Superchip：这是Project Digits的核心处理器，集成了Blackwell GPU和Grace CPU，提供了强大的计算能力。
Blackwell GPU：具备1 PFLOP FP4 AI Compute的能力，意味着它能够进行每秒千万亿次的浮点运算，特别是在AI计算中常用的半精度浮点格式（FP4）。
Grace CPU：拥有20个Arm核心，为系统提供高效的通用计算能力。
High-Bandwidth Unified Memory：128 GB的低功耗DDR5X内存，为AI模型的训练和推理提供高速的数据访问。
Connectivity：包括Wi-Fi、Bluetooth和USB接口，确保了设备的无线连接能力和外部设备的兼容性。
ConnectX：NVIDIA的网络技术，支持NCC（网络计算卡）、RDMA（远程直接内存访问）和GPUDirect，这些技术可以提高数据传输效率，减少延迟，对于AI计算和大规模数据处理至关重要。
4 TB SSD：提供了4TB的固态硬盘存储，用于存储大量的数据和模型。

这些组件共同构成了一个高性能的个人AI超算平台，使得用户能够在本地进行复杂的AI模型训练和推理任务。

处理器：搭载了全新的GB10 Grace Blackwell Superchip，基于NVIDIA Grace Blackwell架构，集成了高性能的NVIDIA Blackwell GPU和NVIDIA Grace™ CPU。该超级芯片具备运行大规模AI项目所需的所有支持组件，包括数十个CUDA核心和第五代Tensor核心。
内存与存储：配备128GB的统一内存和高达4TB的NVMe存储，确保数据处理与存储的高效性。
性能：提供高达1千万亿次的AI计算能力，支持FP4精度的计算，能够处理多达2000亿个参数的AI模型。

外观设计：体积类似于Mac Mini，紧凑便携，可以放置在办公桌上。
连接性：采用NVLink®-C2C芯片间互连技术，实现GPU和CPU之间的高效通信。此外，还基于NVIDIA ConnectX®网络连接，可以将两台Project Digits设备联网，共同处理多达4050亿个参数的模型。

本地开发与测试：用户可以在Project Digits上本地开发和测试AI模型，支持先进大语言模型的原型设计、训练和微调，以及推理。
云部署与扩展：通过Nvidia AI Enterprise软件平台，将模型轻松部署到云服务或数据中心。对于需要更强大性能的用户，可以使用Nvidia的ConnectX网络技术将两台Project Digits AI超级计算机连接在一起，以支持更大规模的模型运行和计算任务。