千帆思享汇:技术驱动产业变革,共赴智慧教育美好未来

outside_default.png

9月6日,百度智能云&好未来技术交流会在北京举行。百度集团副总裁侯震宇及百度智能云主要AI、大数据、大模型技术专家,好未来集团CTO田密及各重要业务线技术专家团出席了本次交流。双方基于教育行业典型场景的智能化落地,就AI及大模型相关数据工程、模型工程、工程化平台化能力等技术的最新进展与实践进行了深度分享与交流。

百度侯震宇:“性能优化这件事蕴含在百度的血液里,我们一直在做,并且在与好未来的合作中,百度也在不断提升自己的技术,能用百度的技术为好未来提供服务,并且助力好未来的产品服务万千教育客户,我们感到非常光荣。

好未来田密:“随着与百度智能云合作的深入,好未来也找到了自己的定位,好未来坚定在Post-training的路线上,基于双方的优势互补,相信好未来会跟百度智能云有更好的合作,持续为智慧教育赋能。

518cbba270460a88d2e0c2236543eebf.jpeg

从数学大模型出发

提升大模型逻辑推理能力

助力教育智能化升级

目前,通用大模型在语言类任务上表现出色,但在数学和推理等任务上表现一般,如何提升大模型的逻辑推理能力是全球大模型公司共同面对的难题。九章大模型(MathGPT)从训练数据优化、推理策略优化两个方面入手提升大模型的数学和推理能力。目前,九章大模型(MathGPT)成为首批通过备案的教育大模型,并全面开放。

基于九章大模型,好未来隆重推出AI原生工具——九章随时问。九章随时问不仅能快速解答数学难题,还能通过启发式的互动,激发学生的学习兴趣,培养其独立思考的能力。其核心功能包括拍照答疑、智能辅导、自由追问、知识讲解和知识推荐等,为学生提供全方位的学习支持,同时减轻家长的辅导负担。

随着大模型技术在数学应用领域的不断深入,其应用场景已经拓展至数学问题解决、数据分析、学术研究及学习辅导等多个层面。未来,随着九章大模型在物理、生物、英语、语文等学科能力上的提升,会为教育场景带来更多革新性的体验。

让数据飞轮刚好地转起来

让教育大数据价值更好地呈现

数据是教育决策、教学优化、学生学习分析等方面的重要支撑,而教育大数据具有体量大、迭代速度快、多样性、价值密度低的特点。对这些数据的处理既要考虑数据的大规模多样性、又要考虑面向教育行业AI应用的多结构数据特征融合要求、充分提升和发挥种子数据本身的价值、生产链条的易用性完整性,从而实现数据在AI生命全流程的数据轮转与飞轮效应。

基于此,百度智能云搭建了基于大模型数据工程、垂类大语言模型的数据增强与效果优化方案。方案覆盖了从大模型数据采集、数据处理、数据标注、数据服务全流程,提供一站式平台化能力。

同时,在面向大模型的特定训练场景,基于有限宝贵的种子数据做好数据增强、更好的为大模型训练供给营养,百度智能云提出采用自动化生成数据的策略,如使用智能体(agent)框架来自动生成提示(suggester)和回应(editor),将问题转化成陈述句并进行扩展,从而构建出高质量的合成数据集。其次,利用指令强化对初始指令集进行深度和广度演化,生成大量新的指令。这些新指令在复杂度、多样性和难度上都有所提升,最终也会产生泛化更高质量数据。

基于高效工程化能力、高价值数据,可以让数据飞轮运转的更快、更有力,让大数据真正赋能教育智能化!

百度·百舸异构计算平台

为教育大模型任务全面加速

企业自研大模型不仅需要强大的算法、技术团队平台,还需要与之匹配的AI基础设施。此外,还需要具备成熟的工程化平台能力,能够快速启动整个研发项目、验证基座模型,以便基于底座模型结合应用场景、教研数据、业务反馈快速推动后续迭代,把流程转起来。同时,在大模型训练、推理阶段,企业还需具备处理大规模任务的能力,以现有的基础设施持续提升资源利用率、任务效率,在最短时间内实现自研大模型上线和启用。

对此,好未来与百度智能云合作,运用百度百舸·AI异构计算平台,打造高性能的专业AI基础设施,为自研“九章大模型(MathGPT)”提供AI支持,成功解决了大模型应用早期遇到的把流程转起来的问题。同时,基于百度百舸·AI异构计算平台,好未来可以快速、方便地创建千卡级别的训推任务集群。

面向不同的大模型训练场景,百度百舸·AI异构计算平台在运行框架和实践中,从计算效能、显存策略、分布式并行策略等方面进行优化,结合高性能网络的特性升级,大幅提升大语言模型的训练性能。

基于重点训练任务,百度百舸·AI异构计算平台可在训练上游环节提供数据服务的能力支持,能方便、快捷地帮助好未来用户实现海外Hugging Face上的数据转载;在训练过程中,结合训练可视化能力,可通过监测大盘实现资源统计、工作负载等全面指标的汇总与统计;训练下游推理任务也实现了服务能力的封装,帮助好未来用户一站式、快速实现推理任务的部署与启用。

技术是驱动产业变革的决定性力量,本次交流会的举办,双方的技术专家进行了深度思维碰撞,为教育行业大模型落地探讨出可行之道。未来,百度智能云与好未来将持续深化合作,整合双方的技术、行业等优势,推动教育智能化升级。

03580c4e07334352a5d687f0dbda97df.png

20a8a55aa757c393fbc7f4e9a0a107ce.png

锁定2024百度云智大会,等你一起智能跃迁!

44f305b7d06c08677b469356307d55ee.png                                        

3c449311716397fa1814a097ab3cf972.png                                        

bc419a6ca9e7c83f4c8fc1569cadc8e6.png                                        

                                       

点击阅读原文,立即合作咨询

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值