【AI周报】英伟达新架构发布，AI芯片上限提升九倍；GNN for Science: 腾讯AI Lab、清华发文：等变图神经网络

01 行业大事件

英伟达新架构发布，AI芯片上限提升了九倍，20块带宽就等于全球互联网

黄仁勋：芯片每代性能都翻倍，而且下个「TensorFlow」级 AI 工具可是我英伟达出的。

每年春天，AI 从业者和游戏玩家都会期待英伟达的新发布，今年也不例外。

北京时间 3 月 22 日晚，新一年度的 GTC 大会如期召开，英伟达创始人、CEO 黄仁勋这次走出了自家厨房，进入元宇宙进行 Keynote 演讲：

「我们已经见证了 AI 在科学领域发现新药、新化合物的能力。人工智能现在学习生物和化学，就像此前理解图像、声音和语音一样。」黄仁勋说道「一旦计算机能力跟上，像制药这样的行业就会经历此前科技领域那样的变革。」

GPU 发展引爆的 AI 浪潮从开始到今天还没过去十年，Transformer 这样的预训练模型和自监督学习模型，已经不止一次出现「算不起」的情况了。

算力需求因为大模型呈指数级上升，老黄这次拿出的是面向高性能计算（HPC）和数据中心的下一代 Hopper 架构，搭载新一代芯片的首款加速卡被命名为 H100，它就是 A100 的替代者。

Hopper 架构的名称来自于计算机科学先驱 Grace Hopper，其延续英伟达每代架构性能翻倍的「传统」，还有更多意想不到的能力。

为 GPT-3 这样的大模型专门设计芯片

H100 使用台积电 5nm 定制版本制程（4N）打造，单块芯片包含 800 亿晶体管。它同时也是全球首款 PCI-E 5 和 HBM 3 显卡，一块 H100 的 IO 带宽就是 40 terabyte 每秒。

「为了形象一点说明这是个什么数字，20 块英伟达 H100 带宽就相当于全球的互联网通信，」黄仁勋说道。

黄仁勋列举了 Hopper 架构相对上代安培的五大革新：

首先是性能的飞跃式提升，这是通过全新张量处理格式 FP8 实现的。H100 的 FP8 算力是 4PetaFLOPS，FP16 则为 2PetaFLOPS，TF32 算力为 1PetaFLOPS，FP64 和 FP32 算力为 60TeraFLOPS。

虽然比苹果 M1