曾经给朋友帮忙测试一款防火墙的包过滤性能。在那个交换机还是稀有昂贵物品的年代,这个防火墙号称能实现100M的包过滤性能。但测试时为了模拟旁路监听模式,朋友用了一个10M的HUB来搭建网络环境。而我在发现这个问题时,也给朋友解释了一下为何不能用10M的HUB来测试100M的防火墙。搞清楚了电脑各类存储器的速度对比:内存>硬盘>网络。而问题在于缓存溢出时的性能是网络+硬盘,比代理时的网络+网络还快。
逐渐体会到影响计算速度的一个重要因素是带宽。这个带宽包括了网络带宽、存储器带宽、内存访问带宽等等。现代的处理器速度已经很快了,很多时候处理器把要算的指令都算完了,却不得不等待下一个数据项的到来。这也是为什么电脑一直在推进使用更快的内部带宽,内存的带宽一路升级到了DDR6,网络带宽也从我刚接触电脑时的10M网络HUB到了现在我家里1G内网,办公室10G内网了。
现实的计算任务中,常见的优化状态是把带宽用满了就行。比如一台HTTP服务器,基本不可能把CPU用满,但只要能把网卡跑满也就行了。FPGA类的应用里也经常是把访存带宽用满即可。
正是这样的环境,使得服务器一直在尝试升级各种带宽。对服务器计算能力有体会的朋友指导,服务器CPU的主频不高,甚至比台式机的CPU主频更低。但是服务器CPU却拥有着非常巨大的带宽,包括支持多通道内存,堪称海量的PCIE通道,支持多个高性能网卡等等。这些优化的需求来源,就是很多计算任务都需要非常巨大的带宽,否则CPU的算力只能饿着,没有足够的输入或输出数据。
在服务器不断追求更大带宽的过程中,云计算平台代表着高性能服务器的优化高峰,也在追求着更加极致的带宽性能。
阿里云新推出的CIPU,就是面向高带宽优化的新高峰。
CIPU是阿里云研发的基础设施处理器,在数据中心内部代替CPU成为云计算架构的中心,是为阿里云飞天云操作系统设计的专用处理器。
CIPU向下管理数据中心硬件并对计算、存储、网络等资源加速,提供极致的带宽能力,使得计算过程不再被带宽所限制。
CIPU不仅在带宽优化,提高计算性能上做了很多。同时也是阿里云自主研发的芯片,使得云计算的各类优化直达硬件,避免了过往软件使用过程中带来的时延和损耗,这一点在云计算业界是领先的。
只有同时拥有云计算服务器硬件、云操作系统的云平台才能作出这样一颗专用处理器。