GLM大模型技术前沿与应用探索论坛成功举办 | WAIC 2023

点击蓝字

64a6c63c45ab94d6b2b26ebec73ee9ba.jpeg

关注我们

AI TIME欢迎每一位AI爱好者的加入!

7月7日下午,GLM大模型技术前沿与应用探索论坛在2023世界人工智能大会成功举办。

本次论坛由清华大学知识工程实验室主办,AI TIME承办,东浩兰生(集团)有限公司协办。来自清华大学KEG实验室团队的5位嘉宾聚焦GLM、CodeGeeX等具体大模型,分享了大模型的技术难点、关键技术、前沿研究成果、拓展方向,从技术、产品、应用场景多维度分析讨论未来大模型的发展之路。

e3b093f0403ecc474a4036124a0f00c6.png

论坛伊始,上海市经济信息化委副主任张英出席论坛并致辞。张英在致辞中指出,面向未来,上海将围绕开源大模型做好以下三点工作:一是营造大模型开源创新生态,统筹开源组织,聚焦大模型发展关键环节;二是夯实大模型智能算力基础,提升算力资源利用率;三是保障大模型多层次人才供给,积极推动产学研合作,为产业发展提供重要的人才支撑。

c3ec8589bde489318333c31ec1f5eff3.png

在报告环节,东昱晓分享了GLM团队过去几年在ChatGLM模型上所做的学术思考、技术探索与工程研究。他谈到,大模型的研究本质上分为三点:增强模型的能力、解锁模型的能力、实现模型与环境以及自我的交互。

7fc1592a3931e6418f1d38ee20b12954.png

张李牛牛介绍了他在知识增强对话预训练模型方面的研究成果。他指出,如何让大模型更少地反馈错误信息是一项有挑战性的研究内容。GLM-Dialog通过两步训练策略首先学到对话本身的自然语言结构再输出正确的内容,保证可以输出正确内容,然后结合混合预训练的任务进行训练,缓解“灾难性遗忘”的情况。

0dd90caf609758420b963702492eecde.png

赖瀚宇报告了关于检索增强的大规模预训练模型的相关研究。如何将外部知识结合到大模型中解决其在对知识密集型任务以及知识停滞性等方面的问题是目前的一大难题。WebGLM通过低成本高效率检索增强系统、大模型蒸馏检索器提升检索性能、自觉生成器自具构造引用长文本问答,从而更进一步地提升回答的质量。

a5e4f41a79a02452968d72428562e8db.png

丁铭围绕VisualGLM-6B的原理与实践分享了团队在多模态方面探究的方法及发现。他也提到了未来大模型发展的重点是中文的OCR能力、消除“幻觉”问题、更好地遵循指令。

f8a9a4a6dc2741bfcb00d1d9319b0330.png

陈波从蛋白质领域为切入口给听众介绍了GLM在AI For Science领域的应用。他的工作中结合了通用的蛋白质训练、预测、生成模型,探索了统一的蛋白质大语言模型在各种不同类型的蛋白质任务中的表现能力。

82f1c8c673954e0eeb937cfa34760230.png

郑勤锴为大家带来CodeGeeX多语言代码生成模型与实践的相关分享。自动代码生成是计算机科学领域长久以来的一大难题。CodeGeeX在开源领域的多语言代码生成模型中具有强大的功能,

5e5d8f67eecc6f5a5c9139d01545120c.png

在Debate环节,上海交通大学长聘教轨副教授戴国浩、清华大学计算机系博士丁铭、上海有孚网络股份有限公司联合创始人兼CTO臧云峰、清华大学知识工程实验室研究助理郑勤锴、清华大学知识工程实验室博士生陈波、AI TIME负责人何芸,六位嘉宾对大模型的技术难点、场景应用、未来发展展开了热烈讨论,共同探索了大模型未来的发展机遇。

408854edabf63f58521a99dacde8b881.png

本期论坛聚焦于GLM大模型的研究过程、技术突破和应用实践,让观众深入了解了GLM大模型。未来,大模型会如何发展,让我们共同期待!

-  关注我们,记得星标  -

 关于AI TIME 

AI TIME源起于2019年,旨在发扬科学思辨精神,邀请各界人士对人工智能理论、算法和场景应用的本质问题进行探索,加强思想碰撞,链接全球AI学者、行业专家和爱好者,希望以辩论的形式,探讨人工智能和人类未来之间的矛盾,探索人工智能领域的未来。

迄今为止,AI TIME已经邀请了1100多位海内外讲者,举办了逾550场活动,超600万人次观看。

f8b9877d3cda3d88893c273a2045c828.png

我知道你

在看

~

a0d48851609c7e9a0da88f3022be3a59.gif

点击 阅读原文 观看回放!

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值