Talk｜北京理工大学陈焕然：损失函数景观与泛化性的关系

本期为TechBeat人工智能社区第573期线上Talk。

北京时间2月22日(周四)20:00，北京理工大学本科生—陈焕然的Talk已准时在TechBeat人工智能社区开播！

他与大家分享的主题是: “损失函数景观与泛化性的关系”，系统地介绍了他们在发现loss landscape closeness也和泛化性强相关等相关工作所做的研究。

Talk·信息

▼

主题：损失函数景观与泛化性的关系

嘉宾：北京理工大学本科生 陈焕然

时间：北京时间 2月22日(周四)20:00

地点：TechBeat人工智能社区

点击下方链接，即可观看视频！

TechBeatTechBeat是荟聚全球华人AI精英的成长社区，每周上新来自顶尖大厂、明星创业公司、国际顶级高校相关专业在读博士的最新研究工作。我们希望为AI人才打造更专业的服务和体验，加速并陪伴其成长。https://www.techbeat.net/talk-info?id=850

Talk·介绍

▼

之前我们已经了解到loss landscape的平坦性与泛化性强相关。那么，除了平坦性外，还有什么性质和泛化性有关呢？在这篇工作中，我们发现loss landscape closeness也和泛化性强相关。我们证明了对于任何一个有方差的分布，通过优化closeness，都可以bound住泛化误差。

Talk大纲

1、flatness and generalization

2、discovery of closeness

3、theoretical understanding of closeness and generalization

4、methodology

5、application

Talk·预习资料

▼

论文链接： 

https://openreview.net/pdf?id=AcJrSoArlh

论文链接：

https://arxiv.org/abs/2309.11751

论文链接： 

https://arxiv.org/abs/2209.08473

论文链接：

https://openaccess.thecvf.com/content/CVPR2023/html/Huang_T-SEA_Transfer-Based_Self-Ensemble_Attack_on_Object_Detection_CVPR_2023_paper.html

论文链接：

https://arxiv.org/abs/2308.10743

Talk·提问交流

▼

在Talk界面下的【交流区】参与互动！留下你的打call🤟和问题🙋，和更多小伙伴们共同讨论，被讲者直接翻牌解答！

你的每一次贡献，我们都会给予你相应的i豆积分，还会有惊喜奖励哦！

Talk·嘉宾介绍

▼

陈焕然

北京理工大学·本科生

陈焕然是北京理工大学三年级本科生在读，主要研究方向为diffusion model, adversarial robustness。在CVPR, ICLR，IJCAI等国际会议上发表论文5篇。提出的CWA攻击可攻破GPT-4，Bard等商用大模型。同时提出了diffusion classifier，即使用一个现成的diffusion model进行鲁棒分类。

个人主页: https://www.techbeat.net/grzytrkj?id=24692

---

关于TechBeat人工智能社区

▼

TechBeat(www.techbeat.net)隶属于将门创投，是一个荟聚全球华人AI精英的成长社区。

我们希望为AI人才打造更专业的服务和体验，加速并陪伴其学习成长。

期待这里可以成为你学习AI前沿知识的高地，分享自己最新工作的沃土，在AI进阶之路上的升级打怪的根据地！

更多详细介绍>>TechBeat，一个荟聚全球华人AI精英的学习成长社区