蚂蚁集团技术专家邀你齐聚全球机器学习技术大会!

0435826324095a6c579dd8f484a4aa8f.gif

2024 全球机器学习技术大会将于 4 月 25、26 日在上海环球港凯悦大酒店隆重举行!届时,来自阿里、微软、蚂蚁集团、小米、零一万物、复旦大学教授、智源人工智能研究院等大模型领域的专家将云集于此,与你共同探讨人工智能的前沿发展和行业最佳实践。

其中,蚂蚁集团的高级技术专家郑琦、AI Infra 技术专家王勤龙将受邀出席,并发表大模型相关技术主题演讲。

f4a3c4669a9c077b1f6d6c42100c90e3.png

机密计算实现大模型应用全生命周期安全

来自蚂蚁可信安全计算团队、机密计算操作系统 Occlum 核心开发者的郑琦将发表《机密计算实现大模型应用全生命周期安全》主题演讲。

d9ecf454b60f526b607bf09398e876ed.jpeg

郑琦,多年芯片公司 Linux 内核,平台 BSP,边缘计算,大数据应用开发经验。目前任职蚂蚁集团可信安全计算团队,机密计算操作系统 Occlum 核心开发者,同时致力于机密计算生态,尤其是在隐私大数据、分布式机密计算方面的开拓和推动。

蚂蚁密态时空计算平台首次将时空数据和隐私计算相结合,全密态使用蚂蚁遥感大模型生成遥感时空数据,再通过与农业时空数据联合建模,形成农户种植分等农业信贷可用的评估指标,产生更精准的农业金融信贷指标,有效解决了农户贷款时点土地种植情况的评估问题,为三农产业的大规模授信提供了解决方案。蚂蚁机密计算作为密态计算TEE底座,守护了蚂蚁大模型全生命(传输,存储,使用中)安全,实现让大模型无忧输出。为大模型商用落地提供了切实可行的参考路径。

8de2df12cc01ff229b822b7a0e35188b.png

DLRover 训练故障自愈:大幅提升大规模 AI 训练的算力效率

当前大规模语言模型训练需要大量的加速卡来训练,例如 GPU 和 NPU 等。由于 GPU 机器的故障率较高,频繁的故障会导致训练中断、计算浪费和集群空转,从而造成大量的时间和算力浪费。为此,DLRover 开源了训练故障自愈技术,通过快速的节点状态检测、弹性扩缩容、动态组网和 Flash Checkpoint 等技术,最大程度地降低故障导致的算力浪费。

当前,在蚂蚁千卡规模的训练上,在故障频率为每天一次的情况下,有效训练时间占比达到 97%。除了支持 GPU,DLRover 故障自愈还支持国产加速卡的分布式训练,如华为昇腾芯片和阿里平头哥芯片。(项目地址:https://github.com/intelligent-machine-learning/dlrover)

在蚂蚁从事 AI 基础设施研发的王勤龙将在全球机器学习技术大会发表《DLRover 训练故障自愈:大幅提升大规模AI训练的算力效率》主题演讲。

83ddc67d1957daabc0ebee105df89a0b.jpeg

王勤龙,现任蚂蚁集团 AI Infra 技术专家,长期在蚂蚁从事 AI 基础设施的研发,主导了蚂蚁分布式训练的弹性容错与自动扩缩容项目的建设,将蚂蚁的混布集群资源利用率从不足 20% 提升至 40% 以上,将千卡大模型训练的有效时间提升至 97% 以上。

他先后参与多个开源项目,如 ElasticDL 和 DLRover,开放原子基金会 2023 活力开源贡献者。目前为蚂蚁 AI Infra 开源项目 DLRover 的架构师,专注于打造稳定的、可扩展的和高效的大规模分布式训练系统。

在本次全球机器学习技术大会上,来自国内外的 50+ AI 专家、学者和业界精英们汇聚一堂,共同分享在大模型和 AI 领域的最新研究成果和实践经验。他们包括:

  • Kaldi 之父,IEEE Fellow,小米集团首席语音科学家 Daniel Povey

  • 复旦大学教授,博士生导师,MOSS大模型核心人员,前搜狗首席研究员 张奇

  • 零一万物联合创始人,前字节跳动 AIGC 和视觉大模型 AI 平台负责人 潘欣

  • 北京智源人工智能研究院基础语言与软件组负责人 刘广

  • 新浪微博新技术研发负责人,中国中文信息学会理事 张俊林

  • 新加坡国立大学计算机系的校长青年教授,潞晨科技创始人 尤洋

  • 北京大学博士生导师 袁粒

  • 北京聆心智能科技有限公司联合创始人 CEO 郑叔亮

  • 微软亚洲研究院首席研究员和研究经理 刘树杰

  • 千芯科技董事长,人工智能、芯片专家 陈巍

  • 面壁智能 CTO,OpenBMB 开源社区联合发起人 曾国洋

  • 度小满金融技术委员会执行主席,数据智能应用部总经理 杨青

  • PPIO 联合创始人&CTO 王闻宇

  • 阿里巴巴达摩院资深算法专家,阿里巴巴通义实验室对话智能负责人 李永彬

  • 微软亚洲研究院首席研究员 宋磊

  • 达观数据联合创始人 张健

  • 白海科技创始人兼 CEO,CCF 大数据专委常务委员和高性能专委委员 卢亿雷

  • 文因互联工程 VP 兼首席科学家,中国人工智能学会会员工委会副秘书长 宋劼

  • 阿里云高级技术专家 董善东

  • 阿里巴巴通义实验室算法专家 龙定坤

  • DeepWisdom 创始人兼 CEO,MetaGPT 项目作者 吴承霖

  • 恒生电子 AI 首席技术专家 林金曙

  • eBay 支付风控部门算法专家 韩志超

  • WPS AI 技术总监,中国图象图形学学会《文档图象分析与识别专委会》专业委员 熊龙飞

  • eBay AI 平台部研发工程师 陆天明

  • 小冰公司计算机视觉算法专家 王文斓

    更多嘉宾与主题,请登陆大会官网:www.ml-summit.org ,或点击「阅读原文」查看!

748055a38beb91a6794b566e0a959564.png

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值