mindspore详解

MindSpore1.6版本着重优化了架构,包括静态图控制流的增强、端边云异构运行时统一、JIT Fallback基础架构构建和自定义算子能力升级。易用性方面,推出MindConvert模型迁移工具、IDE插件MindSpore Dev Toolkit。此外,GNN和强化学习框架得到创新,MindSpore Lite推理性能提升,支持异构并行技术。AI+科学计算领域也有显著更新,如MindQuantum和蛋白质结构预测功能。
摘要由CSDN通过智能技术生成

MindSpore1.6这个版本确实开发了比较长的时间,原因有两个:

  • 一是MindSpore1.6做了大量的架构性的特性,工作量比较大;
  • 二是团队也开始逐步掌控自己的节奏,争取把每个特性打磨好。

所以说跳票本身不是一个坏事。

下面,我想介绍一下MindSpore1.6的一些大的改进:

架构类的大特性

1、完善了静态图的控制流,支持副作用,灵活的微分

经过长达一年的设计和开发,静态图控制流的架构终于稳定了,采用了创新的闭包方案,以前存在的不支持副作用、子图膨胀等问题都得到了解决。

例如:AirNet网络子图数量由原来的162个降低至46个,减少了大量冗余计算,执行性能由12.3s/epoch优化至5.8s/epoch。

AirNet网络优化前后子图数量与执行性能对比

BFGS网络子图数量由原来的3236个降低至91个,执行性能由4.9s/epoch优化至0.6s/epoch。

2、端边云的异构运行时全部统一

我们原来在电信设备里面有一个支持异构的实时运行时,特点是资源占用少、性能高、支持异构芯片的调度;这次MindSpore重用了这个能力,基于此构建端边云统一的运行时,既能在手机上跑,也能在数据中心跑;同时我们在运行时上面增加了一个scheduler,实现算子、子图等灵活的调度模型。

3、初步构建JIT Fallback的基础架构

大家知道Python下面动态图到静态图转换一直存在很多困难,对研究到产业部署带来了很多不便,MindSpore1.6初步构建了JIT Fallback的能力,在Python AST转换到静态图的时候,如果有不认识的语法可以fallback到Python解释器,实现更多语法的兼容,这个特性当前还在持续完善中,不过已经取得了不错的效果。

4、自定义算子能力全面升级,统一Custom接口帮助用户高效添加算子

由于积累时间短,MindSpore当前在算子支持方面还是相对薄弱的,MindSpore内置的静态的算子库可能无法满足用户的需求,之前版本的MindSpore的自定义算子功能也存在着平台覆盖不到位,开发过程繁琐及第三方算子接入困难的问题。为了提供更好的自定义算子体验,1.6版本全面升级了自定义算子的能力,提供支撑包括Ascend,GPU和CPU在内的多平台的统一算子开发接口Custom,帮助用户在MindSpore方便快捷地进行不同类型自定义算子的定义和使用,可以满足包括快速验证,实时编译和第三方算子接入等不同场景下的用户需求。

查看文档:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值