5 月 26 日,OSC 源创会 · 深圳站
来自 Gitee AI、昇思、讯飞、IDEA研究院的业界专家
探讨大模型技术在终端的应用
分享编程语言对端侧代码生成实现的优化
以及 Serverless 推理引擎对于大模型推理效能的提升作用等
快来和 HyperAI超神经一起聚焦大模型技术吧!
会议概况
* 会议时间:2024 年 5 月 26 日(周六) 14:00-18:00
* 会议地点:深圳福田区岗厦北地铁站15号口满纷轰趴馆
* 报名方式:点击文末「阅读原文」
活动简介
* 主题介绍
本次技术沙龙将深入探讨大模型技术在智能终端领域的应用与发展,以及支持大模型技术发展的一些关键技术,如编程语言及开发者工具对于端侧代码生成实现的优化,Serverless 推理引擎对于大模型推理效能的提升作用等等。
为了让各位 OSCer 能有更好的参会体验,我们精心挑选了一家轰趴馆,集学习、交友、娱乐休闲于一体!快叫上开发者好友一起来玩!
议程设置
昇思 MindSpore 大模型训练技术分享
演讲嘉宾:姚逸璠,昇思 MindSpore 大模型高级工程师
议题简介:
以大模型、大数据、大算力驱动的超大规模 AI 正成为下一代人工智能的突破口,也是迈向通用强人工智能最有潜力的技术方向之一。
昇思 MindSpore 构建了多维度混合并行、多维度内存优化、图算融合等关键技术,支撑了 20+ 大模型的训练。并在 2021 年联合高校及科研院所协同创新,发布了鹏程盘古 NLP 大模型、中科院紫东太初图文音多模态大模型、鹏程神农蛋白质结构大模型、武大珞珈遥感大模型等。
本次分享分享基于昇思 MindSpore 的大模型的最新进展和成果,介绍昇思 MindSpore 超大规模 AI 训练、微调、压缩、部署全流程关键技术,如何使用这些关键技术在昇腾大集群上训练大模型,以及昇思 MindSpore 上的大模型如何助力产业发展。
星火大模型+智能硬件的应用创新
演讲嘉宾:郑重阳,讯飞开放平台产品
议题简介:
智能硬件行业面临产品同质化、创新乏力的痛点,导致内卷激烈、利润稀薄。AI 大模型的出现,将极大推动千行百业的智能化进程,也将极大地丰富智能硬件的应用创新。本次议题将通过对手表、键鼠和电脑 PC 行业的应用分享,期望共同开拓更深的场景创新、更多的行业应用。
端侧代码生成:以 MoonBit 为例
演讲嘉宾:费浩祥,IDEA 基础软件中心高级工程师
议题简介:
IDE 作为开发者的主要工具,它能够实时响应用户对输入、在离线情况下工作、对检索代码库进行智能提示和补全。这次分享将以 MoonBit 为例,介绍端侧模型在代码生成中的优势,以及 MoonBit IDE 对于端侧代码生成实现的优化。
使用 Serverless 推理引擎 提升大模型推理效能
演讲嘉宾:林家桢-Gitee AI 专家顾问、清华大学高性能计算所
议题简介:
大模型原生应用正在爆发,未来推理算力的需求可能将达到训练算力需求的数十余倍,据Gartner数据,2023年70%的AI应用基于 Serverless 技术开发。在实际生产中,越来越多的AI业务,比如自动驾驶、NLP等,也正在转向容器化部署。云原生理念是是否有机会帮助大模型降本增效?在这个过程中又遇到了哪些挑战?
主办方信息
* 主办单位:开源中国
* 联合主办:华为
奖品池
合作伙伴
「邀请有礼」活动开启
📒 奖品获取攻略:
1、报名参加本期深圳源创会
2、邀请身边开发者好友来一起参会
3、开源中国精美周边 get~
✍️ 具体规则:
1. 发送活动报名链接给开发者好友,邀请 TA 一起参会
2. 被邀请人需在报名表单 「邀请人姓名」 一栏中填写邀请人的名称
3. 5 月 18 日活动现场,超 3 名被邀请人完成签到,则邀请人可获得 OSC 周边 T 恤或开源魔方