论文笔记：EGAT: Edge Aggregated Graph Attention Networks and Transfer Learning

最新推荐文章于 2023-03-13 14:41:53 发布
最新推荐文章于 2023-03-13 14:41:53 发布
阅读量4.8k 收藏 15
点赞数 3
分类专栏： 生信论文 文章标签： 神经网络 python 生物信息学 transfer learning 图计算
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/wangpan007/article/details/116070748
版权
本文提出了一种名为EGAT（EdgeAggregatedGraphAttentionNetworks）的新方法，用于精确预测蛋白质相互作用位点。EGAT通过引入边聚合图注意力层，有效利用蛋白质结构信息，提高了预测准确性。方法结合了ProtBERT的预训练特征，实现了迁移学习，同时提供了可解释性。实验结果显示，EGAT在各种条件下均优于其他先进技术，并且揭示了长期相互作用对预测的影响。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

文章目录

论文概况

原文链接：https://www.biorxiv.org/content/10.1101/2020.11.07.372466v2.abstract
原文代码链接： https://github.com/Sazan-Mahbub/EGAT

摘要

边缘聚集图注意网络（EGAT：Edge Aggregated Graph Attention Networks）一种高精度的基于深度学习蛋白质相互作用位点的预测方法，引入了一个新的边缘聚合图注意网络来有效地利用结构信息。首次将迁移学习应用于PPI站点预测。提出的边缘聚合网络，以及迁移学习，已经取得了显著的改进比最佳替代方法。此外EGAT提供了一个比典型的黑盒深度神经网络更易于解释的框架。

1 介绍

氨基酸残基相互作用的定义：绝对溶剂可及性小于1 A ˚ 2 Å^2 A˚2
Graph neural networks (GNN)编码结构特征：已经应用于成对结合位点的预测，但是还没有应用于单个的氨基酸残基。
Graph Attention Network (GAT)编码结构特征：采用了注意力机制，但是仅仅只考虑了节点，没有考虑边的特征，GAT缺乏利用边缘特征中可能编码的丰富结构信息的能力。
边缘聚集图注意网络（EGAT：Edge Aggregated Graph Attention Networks）：有效利用编码在边缘特征中的结构信息。在预训练的模型中成功用迁移学习，EGAT还有助于构建可解释的深度学习模型。

2 方法

2.1 特征表示

2.1.1 蛋白质的图表示

EGAT模型是一个基于图神经网络的体系结构，将数据集中每个蛋白质P的三维结构表示为有向k近邻图G。

  1. V (G) ：表示氨基酸残基节点
  2. N i N_i Ni​：表示节点i的领域，i一共有K个领域节点，如下图K=3。任何两个节点(残基)之间的距离是通过它们的平均原子之间的距离来计算的(使用PDB文件中的原子坐标。
    在这里插入图片描述
图一、局部特征提取器
### 2.1.2 节点特征表示

输入的序列 X = X 1 , X 2 , . . . . X N {X=X_1,X_2,....X_N} X=X1​,X2​,....XN​通过ProtBERT进行编码产生节点特征向量{ q = q 1 , q 2 . . . q N q=q_1,q_2...q_N q=q1​,q2​...qN​}, q i ∈ d p r o t b e r t q_i∈d_{protbert} qi​∈dprotbert​（ d p r o t b e r t d_{protbert} dprotbert​=1024），与其他方法相比，ProtBERT在残基水平分类任务上取得了更好的性能,EGAT与ProtTrans中提供的预训练语言模型无关，这意味着ProtTrans中的其他合适的语言模型也可以在我们的模型中使用。

2.1.3 边特征表示

在蛋白质P的有向图用G表示，使用边的两个特征：

1.残基i和j之间的距离 D i j D_{ij} Dij​，它是通过取它们原子之间的平均距离来计算的
2. 残基i和j的相对取向 θ i j θ_{ij} θij​，计算为这两个残基通过α碳原子（ C α C_α Cα​）的平面的表面法线之间夹角的绝对值.
相关的参数;
E i j E_{ij} Eij​：蛋白质的边
氨基酸残基原子之间的平均距离来计算理解
在这里插入图片描述

图二、有向图结构

在这里插入图片描述

图三、边特征平均距离的计算

在这里插入图片描述

图四、边特征平均相对角度的理解

PDB文件数据理解：

在这里插入图片描述
主要氨基酸缩写及短写：
蛋氨酸（Methionine）： MET（M）
丝氨酸（serine）：SER（S）
精氨酸（Arginine）：ARG（G）
谷氨酸（Glutamic acid）：GLU（E）

2.2 EGAT的结构

在这里插入图片描述

图五、EGAT的结构
### 2.2.1 局部特征提取器 局部特征提取器λ被应用于任意蛋白质P图的表示G。这一层期望不仅捕捉蛋白质(序列)残基的局部相互作用，而且降低节点级特征向量{q=$q_1$,q_2...q_N}$。==使用窗口大小为$W_{local}$的一维卷积神经网络层作为λ==。==$W_{local}$优选为相对较小的奇数,理解为卷积核的大小==，以捕捉关于顺序较近的残基之间的关系的信息，但在三维欧几里德空间中可能较近，也可能不较近。取奇数背后的动机是为了确保特定残基i两侧的残基数量相等。节点特征序列q通过λ生成一个低维表示$h ={h_1, h_2, h_3， . .h_N}$，$h_i ∈R^{fn}$ ,${fn}

2.2.2 边缘聚合图关注层

现在我们描述最初的图关注层[44]和我们通过引入边聚合而提出的修改。特征表示h(由局部特征提取器λ产生)使用我们提出的边缘聚合图注意层Υ进行变换，以编码蛋白质的三维结构信息。各图神经网络基础架构,有一个节点的聚合过程中我所有相邻节点的特性表征聚合生成一个固定大小的新 U i U_i Ui​表示为节点,然后用于进一步的计算。一个常用的聚合过程是对相邻节点的特征进行加权平均。在这个过程中，第i个节点 U i ∈ R f n U_i∈R^{f_n} Ui​∈Rfn​的表示由下式生成。

在这里插入图片描述

公式一
相关参数理解： - $h_j$：表示节点j的局部特征表示 - $N_i$：表示节点i的领域 - $W^ν$:是一个学习参数 - $\gamma_{ji}$：是节点i和节点j的特征重要性的权重，==在GAT中$\gamma_{ji}$表示特征$h_i$和$h_j$边的注意力分数==，注意力分数对预测蛋白质相互作用位点具有重要的影响。 **计算节点注意力分数**

在这里插入图片描述

公式二
**计算边特征$ξ_{ij}$的注意力分数（需要考虑边和节点）：**

在这里插入图片描述

公式三

边特征 ξ i j ξ_{ij} ξij​的注意力分数对的softmax规范化处理：
在这里插入图片描述

公式四
相关参数理解： - Ω(.)：激活函数 - $W^α$：需要学习参数 - $W_ν$：对节点特征线性变换的学习参数 - $W_ρ$：对边特征线性变换的参数 - $e_{ji}$：没有标准化的边注意力得分 - “||”：连接操作（t.cat） - i:表示中心节点，j表示i的近邻节点 **边缘聚合图注意层Υ后节点i的最终特征表示（将节点注意力和边的注意力进行组合）：** ![在这里插入图片描述](https://img-blog.csdnimg.cn/20210424111609839.png#pic_center) 相关参数理解：
  • W η W_η Wη​：学习参数
  • h i ˆ h^ˆ_i hiˆ​ ：通过边缘聚合图关注层Υ，最终的特征表示。
  • σ(.)：激活函数
  • W ε W^ε Wε：边特征通过线性层后得到的学习参数

2.2.3 预测概率

在这里插入图片描述
W c W^c Wc： h i ˆ h^ˆ_i hiˆ​通过线性层之后学习的参数
sigm(.)：sigmoid激活函数
P ˆ i Pˆ_i Pˆi​：残基i与其他蛋白质相互作用的数值倾向

2.2.4 EGAT结构图

在这里插入图片描述
图七、 EGAT应用于含有13个残基的假蛋白的整个管道示意图(i = 0, 1, 2, . . . , 12).(a)局部特征提取器λ(窗口大小 W l o c a l W_{local} Wlocal​）。(b)将边聚集图关注层Υ应用于以残基2为中心节点的邻域，残基{1，3，10}∈ N 2 N_2 N2​为残基2的领域节点。©应用于节点2的最终表示 h i ˆ h^ˆ_i hiˆ​的节点级分类器(由Υ生成)。这里，Sigm表示生成概率 P 2 P_2 P2​的Sigmoid激活函数，通过概率 P 2 P_2 P2​来判定节点2是否属于相互作用位点。(d)边缘聚合图注意层Υ的细节以展开，黄色梯形表示计算注意力分数并将其应用于节点和边的特征的模块。（e）黄色梯形的注意力机制，公式四的过程。 L i n e a r x Linear^x Linearx表示一个线性层(全连接层)，学习参数 W x W^x Wx

2.3 EGAT端到端的结构

EGAT应用于具有13个残基的虚拟蛋白质输入蛋白质序列直接得到输出的结构（没有类似于降维，特征重要性等操作），并且为了该图的可读性和清晰度，显示了仅针对残基2的计算。EGAT首先将蛋白质表示为图G，其中每个节点i∈V(G)都连接到|Ni|=k个最近的具有有向边的节点。出于可读性的考虑，我们在本例中使用了 N i N_i Ni​=k=3。这里 N 2 N_2 N2​={1，3，10}。并不是说残基10不是顺序地更接近节点2，而是在三维空间中非常接近节点2。
EGAT具体步骤：

  1. 使用ProtBERT对氨基酸残基{ X = X 1 , X 2 , . . . . X N X={X_1,X_2,....X_N} X=X1​,X2​,....XN​}进行特征编码转为特征向量{q= q 1 q_1 q1​,q_2…q_N}$指定为V(G)中节点的初始特征。
  2. 从蛋白质的结构数据(可在pdb文件[42]中获得)计算边 E i j E_{ij} Eij​的特征向量 ξ i j ξ_{ij} ξij​，每个边特征向量 ξ i j ξ_{ij} ξij​表示从节点j到节点i的有向边。
  3. 一维卷积构成的局部特征提取器λ被应用于蛋白质节点的特征表示(Q)。q通过λ生成一个低维表示{ h = h 1 , h 2 , h 3 ， . . h N h ={h_1, h_2, h_3， . .h_N} h=h1​,h2​,h3​，..hN​}， h i ∈ R f n h_i ∈R^{fn} hi​∈Rfn , f n < d p r o t b e r t {fn}<d_{protbert} fn<dprotbert​
  4. 在每个邻域上应用边聚合图关注层 γ \gamma γ, γ \gamma γ生成邻域中心结点i的最终要素制图表达 h i ˆ h^ˆ_i hiˆ​
  5. 节点级分类器为我们提供了残基2的概率值 P 2 P_2 P2​，它是残基2作为接口残基(或相互作用位点)的预测倾向。

2.4 GAT-PPI:基于GAT的没有边聚合PPI预测

GAT-PPI没有任何边聚集，以显示基于图的方法相对于其他竞争方法的优越性。我们称此方法为GAT-PPI。我们使用了Deep Graph Library提供的原始实现。

3 结果和讨论

3.1 数据

  1. Dset_186
  2. Dset_164
  3. Dset_72
    这三个数据集都是用pdb-database[42]中的蛋白质建立的，序列同源性小于25%，分辨率小于3.0˚A(用X射线晶体学解决)。由于这些数据集来自不同的研究小组，[15]将这三个数据集整合成一个融合的数据集，以确保训练集和测试集来自相同的分布。70个(16.6%)随机选择的蛋白质序列的测试集和(约83.4%)蛋白质序列用作训练集，训练集比DeePPISP多了两条蛋白质序列。
    在这里插入图片描述
图八，三个数据集的相互作用位点

3.2 结果

3.2.1 与其他先进方法独立测试比较

作者提出的两个方法（ EGAT和GAT-PPI）与其他方法进行比较

表1：EGAT和GAT-PPI与其他最先进的方法在基准数据集上的预测性能的比较

在这里插入图片描述
为了直观地显示预测的界面位置，图五代表蛋白(PDB ID 30UR，Chain-B)上真实和预测的(EGAT和Delphi)相互作用位点。该蛋白全长150个残基，有39个相互作用位点。它有412对非本地接触对，表明存在高水平的远程互动。
在这里插入图片描述
图九、(a)EGAT预测的相互作用点，(b)Delphi预测的交互站点，以及©从数据集中获得的真实相互作用位点。蛋白质表面的相互作用位点以紫色表示。每个图(a、b和c)中的左和右图像(I和II)显示两个相对的侧面(即180旋转视图)。

3.3 长期相互作用对PPI站点预测的影响

与DeepPPISP不同，EGAT的设计目的是为不同的残基生成不同的合适的全局特征。研究了EGAT在不同水平的长期交互作用下的表现，并与Delphi和GAT-PPI进行了比较。计算了测试集中70个蛋白质中每个残基的非本地相互作用的数量，并按升序对它们进行了排序。序列位置i和j上的两个残基如果相距至少20个残基(|i-j|≥20)，则认为它们具有非局部相互作用，但根据C˚原子之间的原子距离小于8Å

在这里插入图片描述

图六，非本地相互作用理解

把测试集它们放入七个大小相等的箱子b1，b2…b7(每个包含10个蛋白质，其中b1包含非局部相互作用水平最低的蛋白质(每个残基0.41-1.49个非局部接触)，b7代表具有最高非局部相互作用水平(每个残基2.59-3.21个非局部接触)的模型条件)，正如预期的那样，EGAT和Delphi的性能都随着非本地接触数量的增加而下降。然而，EGAT和Delphi之间的预测性能差异随着非本地交互级别的增加而显著增加(少数例外)。这些结果清楚地表明，通过合适的全局特征来处理非局部相互作用是改进的关键因素之一
在这里插入图片描述

图十、 (a)不同程度的非本地相互作用，(b)EGAT、GAT-PPI和 DELPHI在不同长度蛋白质上的AUPRC

在这里插入图片描述

图八 EGAT 和 DELPHI在7个不同的测试集中AUPRC的比较

在这里插入图片描述

图九 GAT-PPI 和 DELPHI在7个不同的测试集中AUPRC的比较

3.4 基于 ProtBERT特征的迁移学习的影响

EGAT在这两个功能集上的表现始终优于GAT-这表明无论选择哪种功能集，边缘聚合都会带来积极的影响。此外，即使没有ProtTrans特性(即，使用DeepPPISP特性集)，EGAT也比DeepPPISP和DELPHI更好或一样好。

表二 展示了EGAT和GAT-PPI在DeepPPISP特征集和基于ProtBERT的特征集上的性能

在这里插入图片描述

3.5 边的可解释性和注意力得分

为了评估边及其特征的可解释性，提出的基于图的模型中，研究了与有向边的源节点和目的节点相对应的数值倾向之间的相关性。具体来说，对于一条边{Eij |Eij∈E(Gprot)和i, j∈V (Gprot)}，我们计算了两个有序链表之间的相关系数 P i P_i Pi​和 P j P_j Pj​。我们使用Scikit-Learn库中实现的pearson相关函数对整个测试集进行了这一分析。对于一个相互作用位点，其注意力得分相对较高的邻居比其注意力得分相对较低的邻居更有可能成为一个相互作用位点。
在这里插入图片描述

图十一、 (a)蛋白质(PDB ID 30UR，B链)的卡通图像，==残基90是一个相互作用位点==，残基90的邻域 （==领域残基有20个，不包含中心残基==）。(b)使用颜色梯度沿该邻域的边缘的注意力分数，该颜色梯度随着注意力分数的增加而从浅红到黑色连续变化。绿色节点显示的残基是EGAT预测的相互作用位点。

预测为相互作用位点(第50、51、52、53、55、57、59位残基)。在这些残基中，50、52、53和59是真正的相互作用位点(这四个残基与前五个注意力得分中的四个相关)。此外，具有初级序列中更接近90的非交互源节点的边(例如86、87、88、89、91、92、93)的注意力分数低于与远程交互相关联的边的注意力分数(例如50、51、52、53、59)。

仅由注意力分数建议的交互站点可能包含假阳性(例如，剩余51)和假阴性。较高的注意力分数并不一定保证一个互动网站，也不能确定另一个互动网站附近的所有互动网站都会有相对较高的注意力分数。事实上，EGAT的预测并不完全取决于注意力得分，因为它正确地预测残基58和89是非互动位点，尽管它们的相关边缘有很高的注意力得分。后续研究需要进一步研究这种基于图形的模型的可解释性，并设计一种注意力机制，使注意力得分与真实的互动地点预测更紧密地联系在一起。

4 总结

  • 使用边缘聚合来扩展GAT，并证明了它在提高PPISP性能方面的有效性。
  • 首次在PPISP中利用ProtBERT生成的特征集进行迁移学习。我们的实验结果表明，GAT(带或不带边聚合)明显优于其他竞争方法
  • 研究了不同方法在不同模型条件下的性能，以及不同水平的长程相互作用和蛋白质长度
  • 演示了EGAT模型如何有助于提高基于深度神经网络的方法的可解释性。另一个潜在的研究方向EGAT和GAT-PPI在成对PPI位点预测中的效果

5 启发

1.采用ProtBERT得到特征用传统的方法来进行学习
2.残基的不同方法三维可视化图可以学习应用
3.通过一维卷积滑动窗口的方法提取领域的特征可以应用
4.展现展现实验结果的时候如果更加准备的表达我们实验的方法好于其他先进方法

IGModel——提高基于 GNN与Attention 机制的方法在药物发现中的实用性
知来者逆的博客
08-11 930
在本文中，我们提出了一种用于预测蛋白质与候选药物相互作用的新型框架–IGModel。通过使用这个利用深度学习的模型，可以同时预测候选药物在其结合位置的RMSD和结合强度pKd。目前，RMSD 和耦合强度衰减的权重是手动设置的，但可以通过引入一种机制，在学习之前了解这两者之间的关系，从而进一步改进。
【GNN4Medical】GNN在医疗领域发展和应用
最新发布
图挖掘领域，新晋砖家 ☞ 未来可期，欢迎和静静一起学习交流吖
11-21 1317
医疗AI在肿瘤方面应用综述 - 知乎。
Heterogeneous Edge-Enhanced Graph Attention Network For Multi-Agent Trajectory Prediction(HEATConv)
m0_50976935的博客
08-26 1841
在异构图的领域，发现很多的方法都没有结合实际的任务的特征而是预设了很多自己的限制，这样就导致训练不好，本文就是解决这个问题
论文笔记：EGAT: Edge Aggregated Graph Attention Networks and Transfer Learning Improve Protein-Protein In
wangpan007的博客
01-20 3202
文章目录一、摘要二、方法（一）、蛋白质图的表示（二）、节点级特征表示（三）、边级特征表示（四）、 EGAT结构的主要特点（五）、边缘聚合图关注层（六）、在计算注意力分数时使用边缘特征三、结果（一）、数据集（二）、基准数据集上的结果（三）使用基于 ProtBERT的特性进行迁移学习的影响四、总结 一、摘要 图神经网络(GNN)已成为结构信息编码的一种有效工具，尽管基于GNN的体系结构已被应用于配对结合位点预测，但他没有被用来预测单个蛋白质的结合位点。此外，与可能不适当编码远程相互作用的残基特异性信息的方法不同
Adaptive Transfer Learning on Graph Neural Networks(KDD ’21, August 14–18, 2021, Virtual Event, Sin)
weixin_39433623的博客
12-14 3433
Adaptive Transfer Learning on Graph Neural Networks 图神经网络的自适应迁移学习引用请注明来源摘要：1 INTRODUCTION挑战贡献2 相关工作2.1 基于图的预培训和多任务学习2.2 图表上的自我监督任务2.3 辅助任务权重方法3.1 一般辅助损失转移学习框架3.2 基于任务相似度的自适应辅助损失加权(1)加权模型量化了每个辅助任务对目标任务的一致性(2)通过元学习优化加权模型3.3 讨论4 评价4.1 Datasets and Baselin
Graph Attention Networks
akufr2065的博客
10-09 893
Graph Attention Networks paper：https://mila.quebec/wp-content/uploads/2018/07/d1ac95b60310f43bb5a0b8024522fbe08fb2a482.pdf code & data：https://github.com/PetarV-/GAT 1. 创新点 通过新型神经网络对图...
图卷积神经网络原理介绍
qq_36767053的博客
07-29 612
如何理解 Graph Convolutional Network（GCN） 空间方法的GCN论文： GCN: Kipf, T. N., & Welling, M. (2016). Semi-supervised classification with graph convolutional networks. arXiv preprint arXiv:1609.02907. GraphSAGE: Hamilton, W., Ying, Z., & Leskovec, J. (2017).
查询数据库最完美的技巧
04-01
在IT领域，数据库查询是日常工作中不可或缺的一部分，尤其是在软件开发、数据分析、系统管理等领域。"查询数据库最完美的技巧"这个主题涵盖了SQL语言的核心概念、优化查询性能以及最佳实践。下面，我们将深入探讨...
E-gAT: Python自动化测试工具的优势与应用
在给定的文件信息中，我们可以提取到多个IT相关的...从压缩包子文件名称列表“egat-master”可以推测，这是一个以E-gAT工具为主题的项目主目录，开发者或测试人员可以在此目录下找到相关的代码库、文档以及构建脚本等。
飞机机身MRO的全球与中国市场2022-2028年：技术、参与者、趋势、市场规模及占有率研究报告
ctmtchinareport的博客
02-12 341
报告页数: 150 图表数: 100 报告价格：¥16800 本文研究全球与中国市场飞机机身MRO的发展现状及未来发展趋势，分别从生产和消费的角度分析飞机机身MRO的主要生产地区、主要消费地区以及主要的生产商。重点分析全球与中国市场的主要厂商产品特点、产品规格、不同规格产品的价格、产量、产值及全球和中国市场主要生产商的市场份额。 主要生产商包括： Air France KLM Engineering & Maintenance (France) Singapore Technologies Aero
杉木百度文库自动评分 V4.6绿色版（百度文库赚财富值工具）
11-26
百度文库自动评分V4.6（20121124） -------------------更新日志------------------- 【V4.6】20121124 1、将文库分类数据内置到程序内部，减少一次联网获取分类的时间。 2、增加作者提醒文字的获取，具体显示在配置页面的下方灰色文字显示。 【V4.5】20121123 1、增加一个新的登录方法，速度慢点但是可以避免验证码，具体可以打开设置页面，去掉post登陆的对勾 2、使用一个高级技能，可以使每个帐号能够获得21分（通过我这两天的观察，貌似只能第一天得到额外10分奖励=21分，以后就没有额外奖励了，还是11分）。 3、如果采用非post登录时，一直提示超时或者没反应的话，可以用ie打开https://passport.baidu.com/v2/?login，如果有弹出的提示【您正在通过加密链接……】的窗口，勾选以后不提示，然后再运行自动评分程序即可。
在操作系统中，文件系统如何实现文件的基本操作和属性管理？请结合《操作系统第6章：深入解析文件管理与文件系统》进行详细解答。
11-06
参考资源链接：[操作系统第6章：深入解析文件管理与文件系统](https://wenku.csdn.net/doc/5egat90gaw?spm=1055.2569.3001.10343) 在文件操作中，文件系统会使用逻辑文件系统层来处理文件的逻辑结构，如顺序文件、...
利用边缘特征
xiashaoyan1的专栏
03-13 1080
利用边缘特征信息
论文笔记：Protein-protein interaction site prediction through combining local and global features
wangpan007的博客
01-03 3033
文章目录一、论文基本情况二、前言三、数据（一）训练集和测试集（二）特征四、方法（一）局部特征（二）全局特征（三）文本卷积神经网络(TextCNN)五、模型的应用域（AD）（二）、全局特征的重要性（三）预测准确的情况（四）不同长度蛋白质的影响七、总结 一、论文基本情况 发表期刊：Bioinformatics（最新的IF=5.61） 作者及单位：中南大学李敏团队 服务器地址：http://bioinformatics.csu.edu.cn/PPISP/ 代码及数据地址：https://github.com/C
溶剂可及性（一）：基本概念
一个bug是bug，多个bug能work
07-24 1万+
溶剂可及性
[EGNN] Exploiting Edge Features for Graph Neural Networks 利用图神经网络的边特征 论文详解 CVPR 2019
知行合一，止于至善
10-09 9697
文章目录1 简介1.1 GAT和GCN的局限性1.2 EGNN的创新点2 相关工作3 EGNN网络3.1 符号定义3.2 EGNN和GNN的对比3.3 Doubly stochastic normalization of edges 边的双随机归一化3.4 EGNN(A): Attention based EGNN layer3.5 EGNN\(C\): Convolution based EGN...
【GNN】图注意力网络GAT(含代码讲解)
热门推荐
木盏
03-06 4万+
毫无疑问，图神经网络(Graph Neural Networks)是泛计算机视觉领域内继CNN、GAN、NAS等之后的又一个研究热点，非常powerful。GAT是空域GNN的代表模型，Bengio大佬团队出品，发表在ICLR2018，目前谷歌引用已经1k了。它的特点是，很适合作为上手GNN模型。
Graph Attention Networks(图自注意力网络)
小鱼的小窝
07-16 9336
Graph Attention Networks(图自注意力网络)
读书笔记8：Graph Attention Networks（ICLR 2018)
b224618的博客
08-16 2万+
https://mila.quebec/wp-content/uploads/2018/07/d1ac95b60310f43bb5a0b8024522fbe08fb2a482.pdf https://arxiv.org/pdf/1710.10903.pdf 这是一篇将attention机制应用到graph convolution中的文章。但是文章中提出的模型其实是利用了attention的一部...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值