11月26日至30日,亚马逊2018 re:Invent 开发者大会在美国拉斯维加斯举行。亚马逊推出首款自研ARM架构云服务器CPU Graviton和首款云端AI推理芯片AWS Inferentia,力图走一条自己的云端芯一体化路线。
据悉,Graviton处理器由亚马逊于2015年收购的芯片开发商Annapurna实验室设计,目前已通过AWS EC2云计算服务向其云客户供货。Graviton芯片的一大亮点是提供了成本更低的计算能力,其运行应用的成本要比英特尔或者AMD的芯片低45%,也就是说使用新芯片能让AWS虚拟机特定工作负载的价格再降低45%,而且AWS也提供租赁服务。
AWS基础设施副总裁彼得·德桑蒂斯(Peter DeSantis)表示,“芯片被称为A1,旨在针对那些跨多个设备运行的横向扩展应用,以及很多Web应用。具体来说,这些服务适用于容器化的微服务,或者捆绑应用,这样就可以运行在多种计算机和软件上,以及Web服务器、开发环境和缓存服务器组。”
Graviton是对ARM芯片优点的一个证明,一般来说ARM芯片主要用于智能手机等低功耗设备,现在则开始进入主流数据中心服务器,而且采用Graviton芯片的A1计算实例意味着它现在也走入了云端。同时,这也意味着英特尔和AMD不再独享数据中心或云端。
亚马逊发布的另一个重磅炸弹是首款云端AI芯片AWS Inferentia。这是一款低成本、高性能、低延迟的机器学习推理芯片,支持TensorFlow、Apache MXNet和PyTorch深度学习框架,以及使用ONNX格式的模型。
据官网介绍,每块Inferentia芯片提供高达“几百TOPS”的算力,能使复杂的模型能够做出快速的预测。多块芯片组合在一起后的计算力将会高达“数千TOPS”。Inferentia芯片将于2019年底上市,用户可通过亚马逊云的SageMaker、EC2和同样新推出的Elastic Inference云服务享用该芯片提供的AI计算力。
至此,主要云计算公司中,AWS、谷歌云、阿里云、华为云都布局了AI芯片。
![640](https://i-blog.csdnimg.cn/blog_migrate/de26e35f8af5a1ece40ca49a19f3f973.gif)