图卷积神经网络前世今生

本文介绍了图卷积神经网络(GCN)的基础,从数学上的卷积概念出发,讨论在非欧式空间的图上进行卷积的挑战。通过将图转换到频域并利用傅里叶变换,定义了图上的卷积定理,并探讨了GCN卷积核的选择和优化。
摘要由CSDN通过智能技术生成

一、 数学上的卷积->cnn上的卷积

数学意义上的卷积:

一维:

( f ∗ g ) ( t ) = ∫ − ∞ ∞ f ( τ ) g ( t − τ ) d τ (  连续形式  ) ( f ∗ g ) ( t ) = ∑ ı = − ∞ ∞ f ( τ ) g ( t − τ ) (  离散形式  ) \begin{aligned}&(f * g)(t)=\int_{-\infty}^{\infty} f(\tau) g(t-\tau) d \tau(\text { 连续形式 })\\&(f * g)(t)=\sum_{\imath=-\infty}^{\infty} f(\tau) g(t-\tau)(\text { 离散形式 })\end{aligned} (fg)(t)=f(τ)g(tτ)dτ( 连续形式 )(fg)(t)=ı=f(τ)g(tτ)( 离散形式 )
二维离散卷积(卷积核为3x3矩阵时):
( f ∗ g ) ( 1 , 1 ) = ∑ k = 0 2 ∑ h = 0 2 f ( h , k ) g ( h , k ) (f * g)(1,1)=\sum_{k=0}^{2} \sum_{h=0}^{2} f(h, k) g(h, k) (fg)(1,1)=k=02h=02f(h,k)g(h,k)

cnn中的卷积:

借鉴数学上的卷积“加权求和“思想,实际上是把数学上的卷积核以中心元素为中心,中心对称之后得到的新卷积核做数学上的二维离散卷积运算。但是因为本身cnn中的卷积核就是不固定的、需要训练的内容,所以不进行中心对称也没有问题。
在这里插入图片描述

二、 在graph上做卷积的问题

问题: 非欧式空间上,邻居节点不固定,欧式空间上的卷积核无法使用。
解决方案:
1.将非欧式空间映射到欧式空间来解决
2.找出一种可以处理非欧式空间的卷积核

三、 频域的处理方法:将非欧式空间的graph转换到欧式空间的频域上来处理

在欧式空间中,与傅里叶变换相关的卷积定理如下:
( f ∗ g ) ( t ) = F − 1 { F { f } ⋅ F { g } } (f * g)(t)=F^{-1}\{F\{f\} \cdot F\{g\}\} (fg)(t)=F1{ F{ f}F{ g}}
即: 两个函数的卷积等于两个函数进行傅里叶变换之后做乘积的傅里叶逆变换。
通过这个公式就可以将卷积写成乘积的形式,如果可以应用在graph上就可以解决图上的卷积问题。

其中傅里叶变换
F [ f ] = f ^ ( t ) = ∫ f ( x ) exp ⁡ − 2 π i x t d x F[f]=\hat{f}(t)=\int f(x) \exp ^{-2 \pi i x t} d x F[f]=f^(t)=f(x)exp2πixtdx

傅里叶逆变换
F − 1 [ f ^ ] = f ( x ) = ∫ f ^ ( t ) exp ⁡ 2 π x ˙ t d t F^{-1}[\hat{f}]=f(x)=\int \hat{f}(t) \exp ^{2 \pi \dot{x} t} d t F1[f^]=f(x)=f^(t)exp2πx˙tdt
傅里叶变换实际上是把f(x)映射到了以 { exp ⁡ − 2 π i x t } \left\{\exp ^{-2 \pi i x t}\right\} { exp2πixt}为基向量的空间中。
注:由欧拉公式 e i x = cos ⁡ x + i sin ⁡ x e^{i x}=\cos x+i \sin x eix=cosx+isinx 可将傅里叶级数的基 { 1 , cos ⁡ x , sin ⁡ x , cos ⁡ 2 x , sin ⁡ x , … , cos ⁡ n x , sin ⁡ n x , … } , n ∈ Q \{1, \cos x, \sin x, \cos 2 x, \sin x, \ldots, \cos n x, \sin n x, \ldots\}, n \in \mathbb{Q} { 1,cosx,sinx,cos2x,sinx,,cosnx,sinnx,},nQ

写成
{ exp ⁡ − 2 π n x } , n ∈ Z \left\{\exp ^{-2 \pi n x}\right\}, n \in \mathbb{Z} { exp2πnx},n

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值