图卷积(1)——从欧式空间到非欧式空间
普通卷积神经网络
- 多维欧式空间
- 局部空间响应
- 卷积参数共享
活性卷积
一般卷积神经网络处理的数据都是规则排序,输入维度固定的,比如语音序列、图像像素或者视频帧,每一次卷积都是对每个处在规则空间内的数据进行聚合,并且聚合时的参数(卷积核)是一样的。当处于欧式空间内的数据发生了一些偏移,则可以采用活性卷积。
![](https://img-blog.csdnimg.cn/20201027194749272.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMDA2NjI5,size_16,color_FFFFFF,t_70)
采用双线性插值法,在离散坐标下,通过插值方法计算得到连续位置的像素值。 α \alpha α和 β \beta β是可学习参数。但学习出来之后,可变卷积核的形状还是固定的。也就是说,在一个训练集上训练完后, α \alpha α和 β \beta β便固定下来不会变,对所有的数据都是同样的 α \alpha α和 β \beta β。
可变卷积
为了使卷积核的形状是数据驱动的,也就是说,遇到不同的数据时,卷积核的形状可自适应改变。这就是可变卷积(ICCV2017)。
卷积核位置参数化,由数据驱动的方式进行学习。蓝色的箭头表示偏移量,是个连续值,所以又实现了双线性插值连续化。
网络结构如上图。先将输入特征图的一部分数据拿出来(绿色),进行卷积,得到每一个卷积核的偏移量。再对原来的特征图进行提取(蓝色),得到最终的结果。
但是,在非欧式空间中,局部输入维度可变,排列无序。此时,卷积神经网络可能不太适合,需要图卷积来提取信息。
图卷积
图卷积一般分为谱域图卷积和空域图卷积:
谱域图卷积:
- 根据图谱理论和卷积定理,将数据由空域转换到谱域做处理
- 有较为坚实的理论基础
空域图卷积
- 不依靠图谱卷积理论,直接在空间上定义卷积操作
- 定义直观,灵活性更强