一,整体方案
1.从AI+到+AI,人工智能走进千行百业,开始进入使用阶段
2.AI落地存在两难两缺
AI开发难,AI行业落地难,AI算力稀缺,AI人才短缺
3.智能新范式:云原生AI开发与交付,赋能全行业AI普惠
- 数据模型—>数据模型+机理模型: AI自身可解释性差,行业有用数据集少,采集难,行业对AI工具,隐私,安全担忧—>从数据方法(88%)到AI只是计算(97%)
- 分段开发(数据清洗,模型开发,模型应用)—>协同迭代(MLOps,DevOPs,DataOps): 数据,模型,应用开发流程割裂,多人系统联合,配合与协作工作量大,围绕Model_centric,并非Data_Centric->交付周期从月级变为天级。
- 手工作坊(小模型优化)—>工业化生产(千亿规模参数,预训练大模型): .碎片化作坊式开发,模型泛化性差 2.从0开始,定制化开发,模型开发周期月 3.断层式开发,没有连续版本迭代—>模型精度提升2-5%。
4.囊括AI落地的核心技术
4.1 行业表达:多模态知识表征,知识图谱,对抗学习,样本生成,自动标注
4.2AI开发:预训练模型和NAS,迁移学习,联邦学习,元学习,小样本学习,运筹优化求解器
4.3 AI落地:模型可解释性和安全,端云协同,边缘AI,模型压缩和小型化,在线学习,终身学习
5.基于昇腾芯片,的全栈自主可控,实现AI向下扎到根。
自主可控AI技术栈—>ModelArts自主可控的优势(800+项目&10+行业实践,AI软件价值大)
6全球业务地图
伙伴云7+,17+可用区域
7.华为云|合规云
全球70+权威合规认证,满足全球用户合规需求(国际认证,区域认证,行业认证)
二,ModelArts核心模块
1.ModelArts,致力打造行业AI落地首选平台
在线学习:数据处理,算法开发,模型训练,模型管理,模型部署
2.数据处理
:格式齐全,支持多人协作在线标注。
全数据格式支持—提供5中数据类型的深度支持:图像,音频,视频,文本,表格,支持自定义数据
团队标注支持,在线任务分发,在线审核验收,支持超大规模标注
50+算法,提升数据处理效率,基于无监督学习的数据预筛选—>40%人工标注前自动过滤半监督/主动学习的混合智能标注—>5x标注效率>99%标注精度
20+特征自动提取
3.算法开发
:面向四类开发人员提供自动学习,预置算法,Notebook,workflow等开发工具。
AI应用开发者,AI算法工程,AI研究员,AI应用运维
3.1自动学习:ExeML引擎,零代码实现AI开发
3.2 预置算法:使用SOTA算法更便捷
开发环境:CodeLab,让AI探索&教学更自由,IDE SDKs,云上云下,无缝协同,全场景AI框架昇腾MindSpore,使能科研创新与产业应用Workflow:MLOps工作流,AI落地实践与快速迭代的“DevOps”支持二次开发,加速应用的迭代效率
4.模型训练
:使用异构调度,弹性训练,自动混部等技术提升训练性价比
4.1 超大规模异构调度:支持万节点CPU+GPU+昇腾集群管理
4.2 训练平台:弹性训练,自动搜索引擎,提升训练效率,降低投资
4.3 支持大规模开发,训练,推理全流程
4.4 大模型训练性价比自动提升
4.5分布式日志管理和自动容错能力,提升大模型训练效率和使用体验
4.6 大模型训练压缩,降低大模型后生产阶段的落地难度
4.7推理平台架构,支持AI应用运行态全生命周期管理
5.模型管理
:支持多厂商多框架模型统一管理
5.1 模型仓库:灵活支持多厂商多框架多功能模型统一纳管
6.模型部署
:端边云全场景AI部署,支持在线难例挖掘
6.1模型部署:端,边,云全场景AI部署
6.2 在线服务:高效运维,“零”感知扩容升级,自动难发现,提供全流程闭环
6.3端云协同:ModelBox框架,屏蔽底层软硬件差异,模型实时更新
6.4 EI Gallery:构筑AI供需桥梁,共建共享AI生态社区,华为云企业智能知识&实训社区
三,ModelArtls成功实践
1.NGO雨林保护行动计划:声音分类
2.盘古CV大模型:国网永川无人机电力巡检
3.中石油:基于华为AI平台搭建的认知计算平台
4.国家电网:端边云结合的AI方案
5.MLOps案例:支撑某出行公司在线/离线/端侧3大AI应用场景
6.北京智源—“悟道2.0”大模型
7.鹏城云脑平台筑基:探索构建E级AI超算系统
8.机器人:端云协同突破工业场景
9.游戏AI场景:ModwlArtls端到端训练及推理方案