NVIDIA DGX GH200是专为生成式AI而来的超级电脑它能利用NVLink技术让Grace CPU和Hopper GPU互连,从而达到1 exaFLOPS演算力。
NVIDIA创始人兼首席执行官黄仁勋表示:“生成式AI、大型语言模型和推荐系统是现代经济的数字引擎。DGX GH200 AI超级计算机集成了NVIDIA最先进的加速计算和网络技术来拓展AI的前沿。
为了顺应业界推动生成式AI发展的潮流,NVIDIA在Computex上公布了全新的DGX GH200超级电脑。这款新品的一大亮点,在于能利用NVLink Switch System技术让基于Arm的Grace CPU和Hopper GPU构架互连。256颗GH200 Grace Hopper芯片能像单一GPU一般运作,从而达成高达1 exaFLOPS的演算力和144TB的共享內存,后者几乎达到了DGX A100的500倍。NVIDIA称DGX GH200预计在2023年末推出,目前许多知名科技公司已对其表示了兴趣。谷歌云、Meta和微软是首批有望接入DGX GH200来探索其用于生成式AI工作负载的能力的公司。NVIDIA还打算将DGX GH200设计作为蓝图提供给云服务提供商和其他超大规模企业,以便他们能够进一步根据他们自己的基础设施进行定制。
谷歌云计算副总裁Mark Lohmeyer表示:“构建先进的生成式模型需要创新的AI基础设施。Grace Hopper超级芯片的全新NVLink和共享内存解决了大规模AI的关键瓶颈,我们期待它