直播 | ICML 2021论文解读：对神经网络中层特征复杂度的解释与拆分

「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间，旨在帮助更多的青年学者宣传其最新科研成果。我们一直认为，单向地输出知识并不是一个最好的方式，而有效地反馈和交流可能会让知识的传播更加有意义，从而产生更大的价值。

本期 AI Drive，我们邀请到上海交通大学博士生任洁和本科生李明杰，为大家在线解读其发表于 ICML 2021 的最新工作：Graph Structure Estimation Neural Networks。对本期主题感兴趣的小伙伴，7 月 22 日（周四）晚 7 点，我们准时相约 PaperWeekly B 站直播间。

直播信息

在人工智能时代，深度学习已经在诸多方面有了广泛的应用，然而，神经网络黑盒本质使得人们难以理解这个复杂的系统。为了打开这一黑盒，目前，对神经网络的「解释」不仅需要在视觉概念的层面“实验观察”特征的语义，更需要“理论解释并建模”神经网络的表达能力，从而打通“直觉上的语义”与“数学建模表达能力”之间的壁垒。

基于此，本项研究提出了一种对神经网络中层“特征复杂度”的通用量化指标，这一方法能够将神经网络中层特征拆分成不同阶次的复杂度分量。通过对不同复杂度特征分量的可视化，人们可以更清晰地分析不同复杂度分量的语义；同时，本研究也提出了数学指标以分析不同复杂度分量的可靠性、有效性、以及过拟合程度。作为一种通用指标，本项研究也可以为深度学习中的一些经典方法提供全新角度的解释。

论文标题：

Interpreting and Disentangling Feature Components of Various Complexity from DNNs

论文链接：

https://arxiv.org/abs/2006.15920

本次分享的具体内容有： 

• 背景介绍

• 问题建模：定义并拆分神经网络中层特征的复杂度

• 量化指标：定量分析不同复杂度的特征分量

• 探索实验：多角度实验探索神经网络的表达能力

• 工作总结：报告总结与未来展望

嘉宾介绍

 任洁 / 上海交通大学博士生 

任洁，上海交通大学一年级博士生，导师为张拳石教授。主要研究方向为计算机视觉、神经网络的可解释性等。目前已在 T-PAMI 期刊发表一篇论文，在 ICLR, ICML, ICCV 等顶会发表四篇论文。

 李明杰 / 上海交通大学本科生 

李明杰，本科毕业于上海交通大学，即将在上海交大计算机系攻读硕士学位，导师为张拳石教授。主要研究方向为计算机视觉、神经网路可解释性等。目前已在 ICML、ICLR 上发表过相关论文。

直播地址 & 交流群

本次直播将在 PaperWeekly B 站直播间进行，扫描下方海报二维码或点击阅读原文即可免费观看。线上分享结束后，嘉宾还将在直播交流群内实时 QA，在 PaperWeekly 微信公众号后台回复「AI Drive」，即可获取入群通道。

B 站直播间：

https://live.bilibili.com/14884511

合作伙伴

????

现在，在「知乎」也能找到我们了

进入知乎首页搜索「PaperWeekly」

点击「关注」订阅我们的专栏吧

·