社区月报 | 昇思MindSpore2.3.RC1版本正式上线开源社区,最新成果PDEformer-1迎来开源

昇思MindSpore2024年4月份总结

一、概述

经过社区开发者们的开发与贡献,昇思MindSpore2.3.RC1版本正式上线开源社区,欢迎各位开发者在官网下载体验!(下载链接:https://www.mindspore.cn/install)

昇思MindSpore在技术方面获得多项进展,最新成果PDEformer-1、大地电磁智能电磁反演模型、MindSpore NLP支持音乐生成器MusicGEN模型与智能化工大模型相继推出,详情如下:

  • 昇思MindSpore最新成果PDEformer-1迎来开源,已超越那些仅针对特定方程进行精细训练的专家模型,如FNO和DeepONet。

  • 基于昇思MindSpore的大地电磁智能反演模型也正式开源,有效助力地球物理勘探加速智能化。

  • MindSpore NLP已支持Meta推出的人工智能音乐生成器MusicGen,它是AI音乐领域难得的开源且可以充当商用训练基础的模型。

  • 华为与大连化物所深度合作,构建了首个化工设计-仿真优化-知识归纳的多智能体协同设计的平台,可实现秒级生成并可视化对应设计方案。

在2024年4月的SIG运作中,MindFlow&Earth SIG、MindSPONGE SIG、Trusted AI SIG、MindSpore Quantum SIG技术分享会相继举办,其中MindFlow&Earth SIG在其分享会上就PDE的功能与效果进行了深度探讨和演示;Trusted AI SIG分享了基于昇思MindSpore的可信AI研究成果,并探讨了如何规避在联邦学习和机器学习模型训练中的风险。另外MindSPONGE SIG近期在MEGA-Fold上提供了权重转换工具,训练所得的CKPT经转换后可以用于推理,推理CKPT转换后可以用于进一步微调。MindSpore Quantum SIG连续举办5场论文直播分享,蔻享、B站累积观看次数达1万+,期间MindSpore Quantum SIG还进行了16场高校行活动,赋能算法开发。

4月份昇思MindSpore 2024年开源实习正式开启,获得了众多高校开发者的积极反馈。学习没有终点,开源之路征程如海!再次邀请各位的参与。

二、社区规模
截至4月底,昇思MindSpore面向全球开发者,凝聚产业力量,持续打造人工智能创新之源。社区秉持开放透明原则,稳步建设开源生态,规模和活跃度得到持续提升。

昇思MindSpore累计下载量为722万+,2024年4月份增长了20万+

发展3万+多名核心贡献者;

累计产生ISSUE共38K、PR共92.4K

image.png

三、社区大事件

1、第六届·2024 MindSpore 量子计算黑客松正式开启报名,以赛促学,勇攀量子世界的高峰!

第六届·2024 MindSpore量子计算黑客松震撼来袭。开发者将全面体验全新一代通用量子计算框架MindSpore Quantum。

全新的竞赛体验,卓越的算法性能,活跃的开源社区!诚邀您报名参赛,勇攀量子世界的高峰!(报名截止时间:2024年6月30日)

image.png

2、2024昇思MindSpore开源实习火热招募中!

昇思MindSpore开源社区实习计划,通过代码实践,让开发者真正的实践成长。该计划是昇思MindSpore社区携手openEuler社区、中国科学院软件所等多个社区/组织共同发起的线上实习项目,旨在鼓励在校学生积极参与开源社区,在实际的开源环境中提升实践能力。由昇思MindSpore社区提供实习任务,并提供导师辅导,学生通过实习申请后,可在社区领取任务,每完成一个任务可获得相应积分,积分累计达规定量后,可获得实习证明和实习工资。

实习任务类型包括特性开发、工具开发、模型迁移、套件开发、大模型微调/部署/应用、教程/案例开发、文档开发、模型调试调优等;任务数量充足,持续滚动发布,在广阔的领域有多样的选择;自开源实习发布以来,有来自国内外100所院校,近300人参与报名,目前正在火热进行中,期待大家的贡献!

实习申请:

https://www.mindspore.cn/internship

任务领取:

https://gitee.com/mindspore/community/issues/I55QGD?from=project-issue

image.png

3、昇思MindSpore开源社区成长活动--寻找热爱技术、热爱开源、乐于布道、关注个人成长的你!

昇思MindSpore开源社区成长活动是基于MindSpore套件,对热门语言大模型进行代码迁移、精度对齐、finetune/peft(单卡)以及多卡训练/预训练的任务。

任务分为了三阶段闯关,分别有不同价值的奖品提供。

活动开启以来,大部分开发者都完成了第一阶段代码迁移和精度对齐任务,体现了昇思MindSpore套件的易用性。

image.png

4、开源之夏-昇思MindSpore社区任务正式发布,快来领取你的专属任务吧!

开源之夏,是由中国科学院软件研究所发起的“开源软件供应链点亮计划”下的一项重要活动。这是一场专为高校学生精心打造的暑期盛宴,旨在鼓励广大学子积极参与开源软件的开发与维护,推动优秀开源软件社区的蓬勃发展。活动联合了包括昇思MindSpore开源社区在内的国内外各大开源社区,为参与者提供了与资深开发者深入交流、学习与实践的绝佳机会。

此次开源之夏,昇思MindSpore社区为大家准备了一系列精彩纷呈的任务,联合了中国科学院大学、北京航空航天大学、华中科技大学、中国海洋大学、西安电子科技大学、武汉理工大学共同命题,涵盖工具开发、模型开发、算子开发、应用开发、套件开发等多个领域,且不同难度,无论你是刚进入开源的新人还是资深开发者,都能在这里找到属于自己的舞台。快来领取任务,用成果赢取丰厚奖金和证书吧!(报名截止时间:2024年6月4日)

image.png

5、华为ICT大赛全国赛创新赛道昇思开发者获得特等奖

来自华中师范大学团队——塔塔姜火,基于昇思MindSpore的智能问诊医药系统荣获了华为ICT大赛全国赛创新赛道的特等奖。

该作品创新的将ChatGLM3大模型转换为昇思MindSpore框架,并结合LangChain知识向量库,部署在Ascend环境,实现了个性化大模型问诊。这一创新点使得智能问诊医药系统能够更精准地根据患者的症状和问题提供个性化的医学建议,增强了问诊的准确性和针对性。最终在众多作品中脱颖而出,获得了特等奖。

image.png

 6、累计观看过万,MindSpore Quantum SIG进入16所高校布道

MindSpore Quantum SIG在4月份连续举办5场量子计算组会一起开论文直播分享,分别邀请到中国科学院研究员张潘老师、北京大学郑沛林博士、中国科学技术大学王琴琴博士、南方科技大学李晓巍博士、华南理工大学舒润秋同学分享论文,蔻享、B站累积观看次数达1万+。并进行了16场高校行活动,分别有安徽大学、浙江大学、复旦大学、哈尔滨工业大学(深圳)、四川大学、西安邮电大学、清华大学、北京大学、华中师范大学、华南师范大学、武汉理工大学、中国科学技术大学、浙江工业大学、浙江科技大学、香港科技大学广州校区。

7、分享可信AI研究成果,开源实习任务已认领

Trusted AI SIG 4月邀请到华东师大陈志立老师团队,分享了基于昇思MindSpore的可信AI研究成果,探讨如何规避在联邦学习和机器学习模型训练中的风险。同时发布的开源实习任务均已被认领。

8、遇见AI,共探未来,昇思MindSpore创新训练营·上海大学站成功举办!

4月20-21日,“昇思MindSpore创新训练营·上海大学站”成功举办。现场吸引了通信工程、计算机科学与技术、数据科学与大数据技术等8个专业方向学生参加,通过两天“理论+实践教学”,让同学们了解到当前最热门的大模型技术,并利用大模型进行创新实践,旨在让同学们将更深入地了解Al技术的魅力,开拓实践视野,全面学习并系统掌握人工智能前沿技术和应用工具。

image.png

9、2024鲲鹏昇腾开发者大会走进西安邮电大学——校企共绘产教融合新篇章

4月24日下午,2024鲲鹏昇腾开发者大会西安邮电大学分会活动在长安校区成功举行。昇思MindSpore Quantum研究员王耀以《揭秘量子计算,带你玩转MindSpore Quantum量子编程》为主题,为在场师生讲解了量子计算框架的相关知识。

image.png

10、全国高校计算机类课程能力提升高级研修班(2024年第三期)在武汉召开

2024年4月20日至21日,全国高校计算机类课程能力提升高级研修班(2024年第三期)在湖北省武汉市华为技术有限公司武汉研究所召开,来自全国54所高校的近130位教师参加了本次培训。其中,“MindSpore大模型训推微调实践”课程培训由武汉理工大学计算机与人工智能学院院长熊盛武教授,华为吕昱峰、邢译壬、魏超老师担任讲师,27所知名高校的51位教师共同参与。

image.png

11、智 “连”AI丨2024人工智能师资培训——昇腾AI全国行(首场)大连站圆满落幕

4月20-21日,智“连”AI丨2024人工智能师资培训——昇腾AI全国行(首场)大连站圆满落幕。在为期两天的课程中,华为高级工程师将昇思MindSpore的案例实践及大模型专题等相关内容为现场老师们进行搭建梳理。并基于大连医科大学的学科定位属性,特设医学实践案例讲解,重点介绍了“使用昇思MindSpore框架搭建Unet模型实现医学图像分割的应用实践”。

image.png

12、2024昇腾AI金种子实训班走进智能制造行业在上海顺利举办

4月12日,2024昇腾AI金种子实训班走进智能制造行业在上海顺利举办,在本次活动中,昇思MindSpore技术布道师Bo老师表示:面对大模型在开发与落地过程中训练时间长、推理成本高等难题,以AI框架为代表的软件根技术通过持续迭代,加快推进AI底座自主创新,以期成为加速行业智能化的“新引擎”。

image.png

13、与昇腾AI同行 | 2024昇腾AI金种子实训班·河北站圆满举办!

4月24日,“2024昇腾AI金种子实训班·河北站”在廊坊成功举办,昇思MindSpore大模型布道师苏海波对昇思MindSpore框架以及大模型原生开发进行了详细剖析。他介绍MindSpore Transformers提供了基于昇腾生态的大模型使能套件,全流程覆盖大模型的开发、训练、微调和推理,最大限度地帮助开发者降低开发门槛,减小开发工作量。针对大模型原生开发,他指导伙伴开发者基于MindFormers进行“LLaMa2-7B 模型微调&推理”实训,调用河北人工智能计算中心昇腾AI算力资源,从环境部署、权重准备、数据准备到模型训练&推理流程层层深入,在实践中掌握昇腾硬件和昇思MindSpore AI框架的大模型原生开发技能。

image.png

四、技术进展

1大模型首选AI框架——昇思MindSpore2.3.RC1版本上线开源社区

经过社区开发者们几个月的开发与贡献,昇思MindSpore2.3.RC1版本正式上线开源社区!新增了交织流水并行、细粒度多副本并行等多种混合并行策略,进一步提升了大模型在超大集群上的训练性能;支持模型CKPT的异步保存,缩短了大模型的模型保存周期,降低了大模型训练断点续训的开销;通过使能静态图的算子级调度执行,进一步提升静态图调试调优能力;持续升级昇思MindSpore TransFormers大模型套件和昇思MindSpore One生成式套件,全流程开箱即用,一周即可完成大模型全流程的开发、验证;创新AI+科学计算(科学智能)范式,孵化科学领域基础大模型。

image.png

2、MusicGen in MindSpore NLP,快来获取你的“知音”

MindSpore NLP已支持Meta推出的人工智能音乐生成器——MusicGen!!!它是目前在AI音乐领域难得的开源且可以充当商用训练基础的模型。支持随机生成一段音乐,也可以通过你输入的文本生成指定风格的音乐。

image.png

3、任意PDE的秒级求解?昇思MindSpore邀请北大讲师探讨PDE求解基础模型

4月15日,在昇思MindSpore Flow&Earth SIG技术分享会中,来自北京大学的两位讲师分享了《基于昇思MindSpore的偏微分方程基础模型研究与实践》,重点探讨构建偏微分方程(PDE)求解基础模型,为大家解析PDEformer这一初步研究成果,并着重展示其具有的对“基础模型”关键的几大能力。

项目地址:https://gitee.com/mindspore/mindscience/tree/master/MindFlow/applications/pdeformer1d

4、业界SOTA!基于昇思MindSpore的大地电磁智能反演模型首开源,助力地球物理勘探加速智能化

华为AI4S Lab与清华大学李懋坤教授团队、华为先进计算与存储实验室合作,基于昇腾AI处理器与昇思MindSpore AI框架打造了大地电磁智能反演模型。该模型通过变分自编码器(VAE)灵活嵌入了多物理先验知识,达到了业界SOTA。该成果已被国际顶级勘探地球物理期刊《Geophysics》收录,相关代码已在昇思MindSpore Elec电磁仿真套件代码仓中开源。

image.png

5、基于昇思MindSpore打造的智能化工大模型亮相,实现10+倍效率提升!

华为与大连化物所深度合作,联合推出智能化工大模型,AI赋能化工领域,拥抱科学创新,提供了数据驱动化工研发的新范式。基于昇腾AI处理器、昇思MindSpore AI框架,研发团队围绕该模型,构建了首个化工设计-仿真优化-知识归纳的多智能体协同设计的平台,在用户输入工艺目标后,可实现秒级生成并可视化对应设计方案,响应用户的优化指令,完成对原设计方案的修改。

开源路径:

https://gitee.com/mindspore/mindscience

6、HiQ量子计算云平台重磅升级,业界首创支持变分量子线路图形化,使能科研创新

HiQ量子计算云平台提供三种在线量子模拟编程环境,开发者无需安装软件,打开浏览器选择任意开发环境即可开始量子计算编程之旅。

image.png

7、昇思MindSpore在MEGA-Fold提供权重转换工具,提升文档可读性

MindSPONGE SIG近期在MEGA-Fold提供权重转换工具,训练所得的CKPT经转换后可以用于推理,推理CKPT转换后可以用于进一步微调pipeline版本megafold训练,同时Sponge文档新增了样例代码,可读性进一步提升。

五、社区案例

1、昇思MindSpore携手广为海洋推出智慧渔港大模型

“广为·智港”大模型基于昇思MindSpore丰富的API和工具,简化了大模型开发、训练和部署过程,实现了模型的快速迭代和试验,开发效率提高60%以上;“广为·智港”高度融合了视频分析、雷达、AIS、电子海图等信息,使得大模型数据集需求减少90%、数据标注工作量减少50%,同时支持零样本学习与多模态学习,使得识别准确率大幅度提升。

image.png

 2、智慧金融新生态,昇思MindSpore携手伙伴共筑金融安全高墙

近日,中原银行基于昇腾AI基础软硬件平台,打造了业内领先的金融系统智能化管理解决方案,该方案还使用昇思AI框架,大大缩减了开发训练耗时,模型性能和推理速度显著提升;基于MindFormers套件,融合合规知识库,实现大模型的快速推理部署应用。该方案融合了大数据、多模态大模型等技术能力,实现金融业务的事前、事中、事后全流程管理,助力构建自动化、智能化、高效率的银行反欺诈工作体系。

image.png

3、香橙派开发板适配昇思MindSpore模型

Orange Pi AI Pro开发板是香橙派联合华为精心打造的高性能AI开发板,其搭载了昇腾AI处理器,可提供8TOPS INT8的计算能力,内存提供了8GB和16GB两种版本。可以实现图像、视频等多种数据分析与推理计算,可广泛用于教育、机器人、无人机等场景。

Orange Pi AI Pro目前已经支持如下昇思MindSpore模型的推理:

模型

推理

ResNet50图像分类

Vit

CNN+CTC

FCN

ShuffleNet

SSD

RNN

LSTM+CRF

GAN

DCGAN

Pix2Pix

CycleGAN

Diffusion

六、技术分享

1、基于昇思MindSpore的多粒度因果结构学习有效提升因果关系发现的准确率

针对多粒度因果结构识别困难的问题,着眼于改进因果方法的多粒度因果关系学习能力,提出了一种多粒度因果结构学习算法MgCSL,该方法利用可微的有向无环约束,将结构学习问题转换成连续优化问题,并结合机器学习技术搜索有向无环图,有效提高了因果关系发现的准确率。

image.png

2、昇思MindSpore复数分布式并行实现探究

当前科学计算算子如何支持分布式所面临的主要挑战是对复数类型的支持。本文探讨了在昇思MindSpore+HCCL的环境中,通过直接在HCCL中添加复数支持,在AI框架调用通信算子时改变调用类型和处理流程中增加类型转换算子三种方式来支持科学计算算子的复数类型的分布式功能,为进一步支撑AI科学计算提供了思路和参考。

image.png

3、昇思MindSpore技术公开课精彩课程讲解

Prompt定义:涉及传递给语言模型,以实现所需任务的指令和上下文,驱动大模型进行图文表达的文本描述。

一个优质的Prompt应兼具清晰性、强调具体性、目标导向性、角色设定及适当的上下文环境。具体来说,它需要清晰地阐述任务要求,强调问题的具体性,以目标为导向,同时设定合适的角色身份,并基于上下文场景进行延展。例如:“作为数据分析师,我需要对最近的销售数据进行分析,请列出过去一季度各个产品类别的销售额,并突出增长最快的三个类别。基于这些数据,哪些营销策略最有效,应该如何调整未来的营销预算分配,同时考虑到当前经济形势和季节性因素的影响?”大模型就可以给你一个相对满意的答案。

image.png

七、感谢每一位朋友、开发者的支持

在此感谢社区伙伴们、可爱的小孢子们以及昇思MindSpore SIG组成员们,因为大家的共同努力及辛勤奉献,昇思MindSpore才能不断成长与发展!同时我们对可能出现的不完善之处向您表示诚挚的歉意,并衷心感谢您的理解与支持。

截至2024年4月底,昇思MindSpore下载量已超过720万,未来,昇思MindSpore AI框架将持续致力于打造人工智能创新之源,凝聚产业力量,扎根AI根技术,使能大模型与科学智能,成为AI创新的首选框架。

  • 24
    点赞
  • 18
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值