【随记】2021 ICCV Meta-Aggregator: Learning to Aggregate for 1-bit Graph Neural Networks

目录

简介

摘要

引言

相关工作

GNN

网络二值化

方法

普通二进制GNN和预分析

GNN基础

 Vanilla 1-bit GNN Models

挑战和解决方案

元邻域聚合器

概述

Greedy Gumbel Aggregator

Adaptable Hybrid Aggregator

Training Strategy

实验

数据集

实现细节

图回归

 节点分类

三维物体识别

讨论

结论

点评

参考

---

简介

摘要

本文研究了一种新的元聚合算法用于图神经网络的二值化。我们首先开发一个普通的1位GNN框架，它将GNN参数和图特征进行二值化。尽管采用了轻量级架构，但我们发现这个普通框架在区分图拓扑方面的鉴别能力不足，导致了性能的急剧下降。这一发现促使我们设计元聚合器来提高普通二值化gnn的表达能力，其聚合方案可以根据二值化特征以可学习的方式自适应改变。为此，我们提出了两种专门的元邻居聚合器，一种专有的元聚合器被称为Greedy Gumbel neighborhood aggregator (GNA)，另一种弥散的元聚合器被称为Adaptable Hybrid Neighborhood Aggreg