上海张江又一款AI芯发布！性能超英伟达T4，AMD背景团队创办，快手投资

晓查 发自 上海
量子位 报道 | 公众号 QbitAI

今年4月刚刚5亿元人民币A+轮融资的AI芯片公司瀚博半导体，发布了云端推理AI芯片SV100系列，以及搭载该系列芯片的AI推理加速卡VA1。

在发布会上，瀚博半导体创始人兼CEO钱军展示了SV100系列的首款产品——SV102智能视觉芯片，瀚博半导体CTO张磊展示了VA1板卡。

瀚博半导体这两款产品主要瞄准了AI领域中成熟的CV市场，主打低延时、多路视频处理能力，相比市面上的GPU在能效上具有优势，可节省60%服务器成本。

瀚博半导体CEO和CTO均来自AMD，公司于2018年2月创立，作为一家新兴AI芯片公司，瀚博发展迅速，在去年5月就完成了首颗半定制7nm芯片流片，之后又获得了快手等领投的5000万美元的A轮融资。

云端推理芯片SV100系列

SV100系列是瀚博为云端推理而打造的服务器芯片，SV102是该系列的第一款芯片，INT8峰值算力达到200TOPS。

瀚博半导体创始人兼CEO钱军认为，目前AI落地应用已经日趋成熟，根据调研机构IDC的报告，从今年开始，AI基础设备市场上的推理负载将超过训练负载，而且今后二者差距将越来越大。

因此瀚博半导体选择进入了云端AI推理硬件的赛道。

钱军表示，SV102具有超高推理性能、超低延时以及高密度视频解码等特点。

SV102支持64路1080p视频解码，最大功耗为75W，接口为PCIe Gen4 x16，采用被动散热。

这款芯片在今年6月刚刚测试成功。据钱军透露，SV100在开始测试之后8分钟就全部点亮，低于40小时之内所有模块基础测试提前完成。

“这个对于一个全新设计的高端芯片是一个奇迹”，钱军说。

VA1板卡

而搭载SV102的VA1采用单宽半高半长75瓦PCIe卡设计，因此相比一般的GPU卡更节省能耗与空间。

张磊表示，在ResNet-50的基准测试中，VA1是英伟达T4吞吐量的2倍以上。

由于VA1节省服务器50%以上TCO，因此在一个2U服务器中，搭载VA1的设备可以解码384路视频，整机算力是T4设备的2.5倍以上，功耗比相同搭载GPU的服务器更低，可节省60%的服务器成本。

在视频处理方面，VA1支持64路以上H264、H265或AVS2 1080p解码，分辨率支持高达8K。

除了硬件产品外，瀚博也搭建了自己的VastStream AI软件平台，支持PyTorch、TensorFlow等主流AI框架，目前正在与CentOS、Ubuntu、Red Hat、银河麒麟等服务器操作系统进行适配。

最后，SV102芯片与VA1板卡预计将于今年第四季度量产。

钱军透露说，未来瀚博半导体还将推出15W~150W不同功耗范围的AI推理产品供用户选择。