红老属爱学习的专栏

黄仁勋举例称，如果要训练一个1.8万亿参数量的GPT模型，需要8000张Hopper GPU，消耗15兆瓦的电力，连续跑上90天。但如果使用Blackwell GPU，只需要2000张，同样跑90天只要消耗四分之一的电力。 据介绍，第一款Blackwell芯片名为GB200，将于今年晚些时候上市。Blackwell拥有2080亿个晶体管，采用台积电4nm制程。英伟达表示，基于Blackwell的处理器，如GB200，为人工智能公司提供了巨大的性能升级，其AI性能为每秒20千万亿次浮点运算，而H100为每秒4千万亿次浮点运算。该系统可以部署一个27万亿参数的模型。黄仁勋称，毫无疑问，微软Azure、AWS、谷歌云等一众科技巨头都是Blackwell架构的首批用户。