Talk | 新加坡国立大学博士侯皓文:RWKV论文解读 - 在Transformer时代重塑RNN

本期为TechBeat人工智能社区510线上Talk!

北京时间7月5(周三)20:00 新加坡国立大学博士—侯皓文的Talk将准时在TechBeat人工智能社区开播!

他与大家分享的主题是: RWKV论文解读 - 在Transformer时代重塑RNN,届时将解密RWKV注意力机制。

Talk·信息

主题:RWKV论文解读 - 在Transformer时代重塑RNN

嘉宾:新加坡国立大学博士 侯皓文

时间:北京时间 7月5日(周三)20:00

地点:TechBeat人工智能社区

http://www.techbeat.net/

点击下方链接,一键预约TALK!

TechBeat

Talk·介绍

RWKV作为一种新型的大语言模型架构,具有O(1)的推理复杂度,将会降低大模型的硬件限制和部署成本,将推动大模型进行一次架构迁移!

Talk大纲

1. 研究背景

2. 模型架构

3. 关键结果

4. 总结与展望

5. 代码解密RWKV注意力机制

Talk·预习资料

论文链接:

https://arxiv.org/abs/2305.13048

Talk·提问交流

在Talk界面下的【交流区】参与互动!留下你的打call🤟和问题🙋,和更多小伙伴们共同讨论,被讲者直接翻牌解答!

你的每一次贡献,我们都会给予你相应的i豆积分,还会有惊喜奖励哦!

Talk·嘉宾介绍

侯皓文

新加坡国立大学博士

2017年毕业于新加坡国立大学,获得博士学位。随后,他加入了腾讯担任应用研究员,致力于搜索、自然语言处理和多模态领域的研究和实践。在微信搜索、微信支付和微信视频号等项目中扮演了重要角色。他参与了多个算法项目的落地,为腾讯的核心业务快速发展提供了有力支持。他的研究和实践贡献了搜索引擎、语言处理和多模态技术的发展,并为用户提供了更好的体验。目前,作为RWKV基金会的成员,继续在相关领域进行研究和贡献。他持续关注最新的技术趋势,并致力于推动科技创新和社会进步。

个人主页: 

https://www.linkedin.com/in/haowen-hou/

TechBeatTechBeat是荟聚全球华人AI精英的成长社区,每周上新来自顶尖大厂、明星创业公司、国际顶级高校相关专业在读博士的最新研究工作。我们希望为AI人才打造更专业的服务和体验,加速并陪伴其成长。https://www.techbeat.net/talk-info?id=787

-The End-

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值