背景
要问这几年一直在逆势而上的技术有哪些?你一定不会忽略它——图神经网络。
相比传统神经网络,图神经网络的优势非常明显:
1、非顺序排序的特征学习:GNN的输出不以节点的输入顺序为转移的。
2、两个节点之间依赖关系的学习:传统的神经网络中,这种依赖关系只能通过节点的特征来体现。
3、推理能力:GNN能够从非结构化数据(例如:场景图片、故事片段等)中生成推理图。
因此,图神经网络在生物学、地图、金融、搜索、推荐、高能物理学到社会科学和经济学等领域的复杂关系建模和互动系统构建起到重要作用。例如,在社交软件Twitter 和 Facebook 等社交网络上取得了显著的成功。
在实际场景中,有大量的数据是在非欧式空间,限制了深度神经网络的应用。得益于图神经网络在非结构化数据上出色的处理能力,它在学界与工业界上大放光彩。然而,图神经网络模型目前仍处于前期高速发展期,面临着多项方法论和实践挑战。
学习心得
本次百度Ai Studio的图神经网络7日打卡营从图运算基础的图游走模型开始到成型的图神经网络算法GCN、GAT等进行了详细浅显的介绍和教学,令人印象深刻的是课程中通过传统图像处理的卷积原理来讲解图神经网络中卷积的原理以及将NLP模型与图神经网络进行融合的过程,很大程度上加深了我对于图神经网络的理解。
虽然对图神经网络有所入门,但缺少对于深度学习系统的学习,在参与PGL节点分类基线系统比赛的过程中,除了运行完baseline的代码并进行了简单调参外,对于模型的创新或优化都感到寸步难行。
无知不可怕,可怕的是对自己无知的无知。