【论文笔记】A Learned Sketch for Subgraph Counting

外码不是码

已于 2022-05-16 20:46:27 修改

阅读量833

点赞数 3

分类专栏：论文笔记文章标签：算法机器学习神经网络图论

于 2022-05-16 20:45:18 首次发布

本文链接：https://blog.csdn.net/m0_61942451/article/details/124807409

版权

本文提出了一种名为ALSS的子图计数方法，结合了SketchLearned (LSS) 和 Active Learning (AL) 两部分。LSS使用神经网络进行回归任务，通过GNN和自注意力机制学习子结构的表示以预测匹配数。AL则基于模型的不确定性选择新的查询图来提升模型性能。实验表明，ALSS在效率和准确性方面表现出色，尤其适用于大规模图的模糊子图计数。

摘要由CSDN通过智能技术生成

标题：A Learned Sketch for Subgraph Counting

发表：SIGMOD 2021

链接：地址

作者机构：港中文/武汉大学/腾讯AI Lab

一些需要解释的知识

在本篇论文中，一些频繁出现的必备知识如下：

graph isomorphism 图同构

离散数学图论中的知识，两个图G1&G2同构满足：

从G1的结点到G2的结点，存在一个一对一的映上函数

从G1的边到G2的边，存在一个一对一的映上函数

说白了就是两张图实际上是一张，G2只是把G1的结点调换位置而已，他们的邻接矩阵在一定调整下是一样的
graph homomorphism 图同态

比同构更宽松，结点不用一一对应。
多层感知机MLP

感知机

给定输入x，权重w，和偏移b，感知机输出
$\sigma(<w,x>+b) \quad \sigma(x)= \begin{cases} 1& \text{if x>0}\\ 0& \text{otherwise} \end{cases}$
本质上就是二分类，算法如下
```
initialize w = 0 and b = 0
repeat
	if yi[<w,xi>+b]<=0 then //wrong classifiesd
		w <—— w+yixi and b<——b+yi //update w and b
	end if
until all classified correctly
```
等价于batch size=1的梯度下降

问题：不能拟合XOR函数，因为只能产生线性分割面

多层感知机

其实就是在softmax中加入了隐藏层+激活函数，得到非线性模型

超参数为隐藏层层数和各个隐藏层大小
$h=\sigma(W_1x+b_1)\\ o=W_2^Th+b_2\\ y=softmax(o)\\ W_1 \in R^{m*n},b_1 \in R^m, W_2\in R^{m*k},b_2 \in R^k$
也可以有很多隐藏层，每一个隐藏层都有对应的W矩阵，且必须加激活函数(避免层数塌陷)
自注意力机制 self-attention

自注意力的目的是对于一个query向量，在一堆key中找到和其它向量之间的关联程度，是一个有偏选择的过程。