【导读】 在新版本中,Facebook 与 AWS 还合作共同推出了大规模生产级工具库 TorchServe。
4月21日,Facebook 正式发布了 PyTorch 1.5,这是自 2020 年 1 月发布 Pytorch 1.4 之后,时隔三月迎来的另一次版本升级。
需要注意的是,PyTorch 1.5只支持Python 3,不再支持Python 2版本。
此次发布PyTorch 1.5此版本主要包括对几个新的API 的添加和改进, 包括对c++前端API的支持(稳定版)和库升级,比如Facebook与Amazon 合作开发的模型服务库TorchServe。
TorchServe库同时支持Python和TorchScript模型;它可以同时运行一个模型的多个版本,甚至可以在模型存档中回滚到过去的版本。亚马逊工程师在一篇博文中表示,超过80%的使用PyTorch的云机器学习项目是在AWS上进行的。
PyTorch 1.5还包括Torch Elastic,可根据开发者的需求或出现的问题状况来扩大或缩小云训练资源。
AWS与Kubernetes的TorchElastic集成支持容器编排,并且具有较高的容错能力。Kubernetes在AWS上集成TorchElastic,意味着Kubernetes用户不需要通过手动管理模型训练的服务来使用TorchElastic。
TorchElastic用于大型分布式机器学习项目。PyTorch产品经理Joe Spisak表示,TorchElastic被用于Facebook的大规模NLP和计算机视觉项目,现在正将其构建到公有云环境中。
“TorchElastic能让你在多个节点上改变训练,同时不会出现训练失败的情况; 它会继续运行,一旦这些节点重新联机,它可以重新开始训练并在这些节点出现时计算这些变量。”Spisak说。“我们把弹性容错视为与亚马逊再次合作的机会,同时我们也有来自微软的一些合并请求。因此,我们希望三个主要的云供应商能为本地用户提供支持,以便在其云上的Kubernetes中进行弹性容错。”
Spisak表示, 此次发布的PyTorch 1.5还增加了一个新特性:PyTorch c++前端API的稳定版本现在可以将模型从Python API转换为c++ API。“最重要的是,随着 PyTorch 1.5的 发布, 在升级到C++后, 我们现在与Python完全对等。”
因此,用户基本上可以在Python中使用的所有软件包、所有模块、optim等,现在这些也都可在C ++中使用。
Spisak说:“基本上,PyTorch 1.5能让每个人在Python和C ++之间进行基本转换。”
PyTorch 1.5还引入了自定义C++类的实验版本,PyTorch的C++实现对于强化学习模型的构建者尤为重要。
此外,PyTorch 1.5还升级了主要的torchvision、torchtext和torchaudio库,以及与AWS共同构建的TorchElastic和TorchServe模型服务库。
它还更新了torch_xla软件包,可以将PyTorch与Google Cloud TPU或TPU Pod一起使用。
此前,Facebook在1月发布了支持分布式模型并行、Java程序、移动端等多项新功能的PyTorch 1.4。在2019年10月举行的年度PyTorch开发者大会上,Facebook首次介绍了Google Cloud TPU支持和量化以及PyTorch Mobile。
原文链接:
Pytorch博客:
到此这篇关于PyTorch 1.5发布:Python与C++可转换,PyTorch 宣告不再支持Python2的文章就介绍到这了,更多相关PyTorch 1.5发布内容请搜索脚本之家以前的文章或继续浏览下面的相关文章,希望大家以后多多支持脚本之家!