AWS还推出机器学习Trainium芯片

AWS在re:Invent开发者大会上推出了AWS Trainium,一款专为机器学习训练设计的定制芯片,承诺提供比竞争对手更高的性能,并支持TensorFlow、PyTorch和MXNet。Trainium旨在解决训练成本高、模型推理性能的瓶颈问题,提供更高的性价比和计算能力,适用于多种深度学习应用。AWS Trainium将集成到Amazon SageMaker等服务中,预计明年推出。
摘要由CSDN通过智能技术生成

AWS宣布推出AWS Trainium,这是专门用于训练机器学习模型的下一代定制芯片,同时AWS还承诺通过对 TensorFlow、 PyTorch 和 MXNet 的支持,可以提供比任何竞争对手更高的云服务性能。

一直以来,机器学习都受到大大小小的限制。
模型的大小、速度以及昂贵的硬件,都是难以突破的瓶颈。
据MIT的一份报告指出,机器学习的相关研究很可能正在接近计算的极限。OpenAI 花费了1200万美元来训练它的 GPT-3语言模型,谷歌花费了大约6912美元来训练BERT。

AWS可能要提供更高的性价比。

在昨日的re:Invent开发者大会上,AWS发布了其设计的第二款定制的机器学习芯片–AWS Trainium。该公司承诺,它可以提供比云端任何竞争对手更高的性能,同时也支持 TensorFlow、PyTorch 和 MXNet等。

除了提供最具性价比的机器学习训练方案之外,Trainium 还提供了最高性能的计算能力 ,并支持更广泛的机器学习应用。

新一代定制芯片AWS Trainium,让模型推理成本再降45%

这款定制芯片的主要优势是速度和成本,AWS 承诺与标准 AWS GPU 实例相比,吞吐量提高30% ,每次推断的成本降低45% 。

Trainium 这款芯片还专门针对深度学习训练工作负载进行了优化,包括图像分类、语义搜索、翻译、语音识别、自然语言处理和推荐引擎等。它将以EC2(亚马逊弹性计算云)实例的形式出现在亚马逊的机器学习平台 SageMaker 中,基于这些定制芯片的新实例将于明年正式推出。

随着机器学习领域的加速进展,迫切需要提高性能,降低由推理和训练驱动的基础设施成本。就在去年,AWS 推出了AWS Inferentia,为客户提供低成本高性能的

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值