导读: 目前常见的图卷积神经网络一般都是3、4层,本文关注的问题是图卷积神经网络GCN/GNN是否也能和一般的卷积神经网络CNN一样加深到50+层而不会有Vanishing Gradient问题,作者提出了ResGCNs,DenseGCNs和Dilated GCN,MRGCN等结构,甚至能训练收敛152层GCN,并在点云分割任务上取得了比较好的效果。 李国豪,中国科学院大学硕士,阿卜杜拉国王科技大学计算机科学博士生一年级。 研究方向是计算机视觉、深度学习、无人驾驶、强化学习等, 曾在商汤科技研究院实习参与无人驾驶研究项目。 在机器人顶会Robotics: Science and Systems(RSS‘2019)发表论文。 图卷积网络(GCN)在处理非规则数据的过程中具有CNN无法比拟的优势,但目前的图卷积网络规模较小,在加深深度的过程中由于梯度消失(Vanishing Gradient)和过度平滑(Over Smoothing)问题限制图卷积网络的进一步发展。 为了探索图卷积网络深度拓展的潜力,来自阿卜杜拉国王科技大学的研究人员在CNN结构的启发下 在图卷积网络中利用残差、稠密连接和膨胀卷积等结构成功将GCN的深度拓展到了
56层,在增强模型训练稳定性的基础上大幅度提高了图卷积网络的性能 。
对于计算机视觉来说,图卷积网络对于场景中各部分的语义关系建模也十分有效,图卷积网络在对于点云的处理方面也涌现了一系列优秀的工作。例如在点云分割和提升深度的探索上研究人员们都进行了一系列探索,但研究发现较深的图卷积网络会引起 过度平滑 (over-smoothing)的结果,使得局域特征都收敛到相同的值上;此外随着网络的加深还会带来 较高
![070e4f7c1da55506a6fc8a2ed849a9b6.gif](https://img-blog.csdnimg.cn/img_convert/070e4f7c1da55506a6fc8a2ed849a9b6.gif)
图卷积网络
图卷积网络对于真实世界中广泛存在的非欧几里得数据具有强大的优势,它可以处理庞大的社交网络数据,通过将社交网络等效为图来分析人与人之间的关系,也可以通过图的方式来为化学分子结构建模助力新药研发,同时还可以精确地构建用户的交互模式以提升推荐系统的精度与效率,此外在语言处理、复杂的词句关系中都有着广泛的应用。对于计算机视觉来说,图卷积网络对于场景中各部分的语义关系建模也十分有效,图卷积网络在对于点云的处理方面也涌现了一系列优秀的工作。例如在点云分割和提升深度的探索上研究人员们都进行了一系列探索,但研究发现较深的图卷积网络会引起 过度平滑 (over-smoothing)的结果,使得局域特征都收敛到相同的值上;此外随着网络的加深还会带来 较高