【KD】2022 ICLR Cold brew

目录

简介

Introduction

本文主要的方法

TEACHER MODEL

STUDENT MLP MODEL

从标签平滑的角度解释模型

实验

结论

参考

---

简介

「题目」：COLD BREW: DISTILLING GRAPH NODE REPRESENTATIONS WITH INCOMPLETE OR MISSING NEIGHBORHOODS

「作者」：Wenqing Zheng, Edward W Huang, Nikhil Rao, Sumeet Katariya, Zhangyang Wang, Karthik Subbian

「论文链接」：https://openreview.net/forum?id=1ugNpm7W6E

「代码」：https://github.com/amazon-research/gnn-tail-generalization

图 1：顶部：图节点可能具有幂律（“长尾”）连接分布，大部分节点（黄色）几乎没有邻居。底部：现实世界数据集中的长尾分