herowu的专栏

原创 原创：旗舰游戏显卡(980Ti,1080Ti,TiTan V,2080Ti,3090,4090)，AI画图stable diffusion)和大模型(chatglm2-6b)推理性能横评

几乎就是专业的Tesla V100仅仅把HBM2的显存带宽从4096 bit减到3072bit，并且把16G/32G显存砍到12G显存（当然还有极少量的CEO限量版32G TiTan V），其它什么都没有变的Tesla V100，特别是双精度FP64 (double)居然有7.450 TFLOPS，直到今天的4090双精度也才1,290 GFLOPS，差不多强6倍的能力更不要说其它2080Ti,3090了。在大模型测试中由于有24G显存确实很多模型都可以跑起来很爽，是一张性价比很高的大模型卡。