图卷积文献阅读1

已于 2023-01-12 17:05:28 修改
阅读量1.5k 收藏 7
点赞数
文章标签： 深度学习 神经网络 图论 卷积神经网络
于 2022-08-09 20:44:51 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_39917739/article/details/126200548
版权

SUM1 读论文


论文名称：MGraphDTA: deep multiscale graph neural network for explainable drug–target binding affinity prediction
论文下载地址： MGraphDTA
论文代码下载地址： MGraphDTA and Grad-AAM
数据集下载地址： Davis and KIBA、 filtered Davis、 Metz 、Tox-Cast 、 Human and C. elegans datasets

MGraphDTA: deep multiscale graph neural network for explainable drug–target binding affinity prediction

图神经网络广泛应用于预测靶向药物亲和力（Predicting drug–target affinity (DTA)），然而目前的浅层图神经网络不足以捕获化合物的全局特征。

1. background

对于预测靶向药物亲和力的模型一般可分为三类：

  1. 基于结构的模型：考虑小分子和蛋白质的3D结构.

  2. 基于特征的模型：代表方法是蛋白质化学计量学（proteochemometrics），依赖蛋白质和配体的清晰描述：生物特征向量，用一组确定的二进制数表示药物是否作用于目标。得到的生物特征向量可以用于训练深度学习模型。如前馈神经网络（FNN）、支持向量机（SVM）、随机森林（RF）以及其他的核（kernel）模型。其中FNNs的效果最好。

  3. 基于深度学习的模型：深度学习模型源于新兴技术如high throughput screening, parallel synthesis采集到的生物医药与复合物活性数据。如DeepDTA用两层卷积神经网络（CNN）分别学习药物和蛋白质的结构表达，之后利用多层感知机预测药物匹配关系。WideDTA在此基础上改进了输入（增加两个额外的文本输入），总计四个输入。总之，基于CNN的模型被证明是有效的，并且基于CNN识别代表化合物结构的二维数据是被证明可行。

    之后对于CNN不能很好的表达分子结构的信息的缺点，引出了图神经网络（GNNs）,GNNs用图来表示药物，并用GNN（频域方法？）实现DTA预测。经验证，基于GNNs的模型要优于CNNs 。
    如GraphDTA对比了如图卷积网络（GCN）、图注意力网路（GAT）、GIN（？）和GAT-GCN用于DTA预测（回归问题）。注意力机制的引入增加了模型 的可解释性。
    另一方面，使用蛋白质的结构相关信息（structural-related features of protein）作为输入以提升DTA预测也被证明可行。（个人感觉该方法类似将先验知识融入深度学习算法），如DGraphDTA将蛋白质序列作为输入，但由于蛋白质结构信息的不全可知，所以利用预测的contact map作为输入。
    总之，目前的浅层GNNs有三种问题：

    1.浅层结构无法很好的捕捉全局特性。 因此，需要多层堆叠的图卷积层，若想捕获K跳邻居的结构，应该堆叠k个图卷积层（不太理解，这里是指embedding of nodes?deep encoder 有点相似，以后查证）
    DEEP encoder
    2.GNN应保留局部信息。

GNN应保留全局与局部信息，左图浅层GNN并未捕获整个玉米赤霉烯酮的环结构，有图说明局部信息可以区分不同重要程度的取代基
3.基于图形的DTA可解释性依赖于注意力机制。 （GAT网络？）注意力机制有较好的数学解释，但仅考虑顶点领域。
GAT

2.模型总览

为了解决上述问题，该文章提出了多尺度图神经网络multiscale graph neural network (MGNN) 以及可视化模型：权重梯度相关性图gradient-weighted affinity activation mapping(Grad-AAM) 。
MGraphDTA
预测部分：MGNN用来27层图卷积层以及多尺度卷积神经网络（MCNN）用于提取药物和靶点的多尺度特征，融合后获得对于关系，输入多层感知机以预测亲和力。
可视化部分：Grad-AAM根据MGNN的最后一层输入的梯度以生成概率图模型，用以标注对DTA最有贡献的原子。Grad-AAM源于在图像中梯度加权类激活映射（gradient-weighted class activation mapping (Grad-CAM) ），对其CNN的部分替换为GNN。（最近好多模型都是将图像领域的CNN结构替换为GNN）。

3. 模型原理

3.1 输入

模型输入是j简化分子线性输入系统SMILES（Simplified Molecular Input Line Entry System），用短ASCII码来表示化学结构，输入的目标是一组蛋白质序列（字符串），其中每一个字符代表一个氨基酸。（氨基酸是蛋白质的基本结构？不太了解）。利用RDKit将SMILES处理成具有点或边的图结构以及邻接矩阵。
对于蛋白质序列，本文首次建立了一个词汇表将每一个字符映射成整型（int），如下所示：

氨基酸 右对齐
丙氨酸 1
半胱氨酸 2
谷氨酸 4

为了节省训练成本，将蛋白质序列长度限制在1200，基本上至少覆盖了80%的蛋白质，之后经过embedding 层将器转化为128维向量（embedding space）one-hot 编码虽然也可encode蛋白质，但是不能描述两个不同氨基酸之间的语义相关性，例如不同的one-hot向量都具有零余弦相似性。（看到one-hot总想到交叉熵损失，1001和0110就存在零余弦相似性，不知是否有解决的方法，回头查一查）

3.2 图神经网络

图可以被表示为：
G = ( ν , E ) \mathcal{G}=(\nu, \mathcal{E}) G=(ν,E)
v i ∈ ν v_{i} \in \nu vi​∈ν代表第i个原子， e i j ∈ E e_{i j} \in \mathcal{E} eij​∈E代表了第 i 和第 j 个原子连接的边。GNN通常利用message pass 和 readout将图 G {G} G映射到向量空间 y G ∈ R d y_{\mathcal{G}} \in \mathbb{R}^{d} yG​∈Rd，其中message pass根据领域更新顶点信息，readout为整张图计算特征向量。

3.2.1 Message passing phase

用如下的图卷积层来实现随着时间步长t的变化第i个顶点的embedding 向量的更新
x i ( t + 1 ) = σ ( W 1 x i ( t ) + W 2 ∑ j ∈ N ( i ) x i ( t ) ) x_{i}^{(t+1)}=\sigma\left(W_{1} x_{i}^{(t)}+W_{2} \sum_{j \in \mathcal{N}(i)} x_{i}^{(t)}\right) xi(t+1)​=σ(W1​xi(t)​+W2​∑j∈N(i)​xi(t)​)
上式中 W 1 W_{1} W1​和 W 2 W_{2} W2​是可学习的权重矩阵， N ( i ) \mathcal{N}(i) N(i)是顶点i的邻居（一阶邻居？）， σ \sigma σ就是批标准化和激活函数，本文中选择ReLU。由上式可知，通过不断的迭代可以逐渐捕获图上全局信息。（该方法类似于GCN，如下所示，不知是否可以引入图注意力网络GAT，通过调参来实现更好的预测结果，或者使用较新的异质图模型）
GCN

3.2.2 Readout phase

就是对最后一层输出的顶点embedding vector取均值：
y G = 1 ∣ V ∣ ∑ v ∈ V x v ( L ) y_{\mathcal{G}}=\frac{1}{|\mathcal{V}|} \sum_{v \in \mathcal{V}} x_{v}{ }^{(L)} yG​=∣V∣1​∑v∈V​xv​

最低0.47元/天 解锁文章
Ray_Hr
关注
  • 0
    点赞
  • 踩
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
文献阅读：卷积神经网络在图像识别中的应用研究综述
qq_45697032的博客
08-02 1942
卷积神经网络; 图像识别; 人体动作识别; 人脸识别
【Kipf博士GNN论文】图卷积网络作者Kipf四年图神经网络研究精华178页
图挖掘领域，新晋砖家 ☞ 未来可期，欢迎和静静一起学习交流吖
05-21 2427
转载 机器之心 目录 引言 大神个人简介 大神的博士论文贡献 背景 图卷积网络 使用图自编码器（GAE）执行链接预测 使用图卷积网络处理关系数据 神经关系推断（NRI） 针对序列行为数据的结构发现模型 C-SWM 大神博士论文的目录： 引言 对于普通人来说，将自己的学位论文公布到社交媒体可能需要点勇气。但如果实力够硬，多少人检阅都是不怕的。最近，图卷积网络（GCN）的作者 Thomas Kipf 就公开了自己的博士论文，主题是「使用图结构表示的深度学习」，涵盖从图神经网络到结构
药物靶标亲和力（一）
最新发布
qq_46080349的博客
05-10 1119
用深度学习方法预测药物靶标亲和力
什么是readout function/readout函数
飞机火车巴雷特的博客
04-09 7738
带你理解什么是readout函数
卷积神经网络
luozirong的专栏
03-31 1177
通常在写关于卷积神经网络的文章中都会说一句：其实卷积神经网络并不神秘而且它也不是万能的。就目前我也认为确实这样子的。今天才把卷积神经网络从理论到实践（基于 tensorflow）整个流程初步搞清，想基于我的理解，希望尽量通俗易懂的介绍我理解的卷积神经网络。 首先神经网络一般指包含一个输入层一个输出层多个隐层的网络结构，如下图所示，神经网络其实可以理解为一个输入序列，经过一个函数f(x)，得到一个
A Comprehensive Survey on Graph Neural Networks 学习笔记
hpy123的博客
04-04 450
笔记
深度学习卷积神经网络图像参考文献
01-02
关于深度学习, 图像处理.卷积神经网络的大量参考论文文献.
文献阅读（36）-使用卷积神经网络通过图像分类检测糖网
10-21
【文献阅读（36）-使用卷积神经网络通过图像分类检测糖网】 这篇文献讨论了如何运用深度学习，特别是卷积神经网络（CNNs），来自动检测糖尿病视网膜病变（Diabetic Retinopathy, DR）。DR是糖尿病的常见并发症，也...
Python-图卷积网络相关文献汇总
08-11
图卷积网络（Graph Convolutional Networks，简称GCNs）是一种在图数据上进行深度学习的模型，由Kipf和Welling于2016年提出，它将卷积神经网络的概念扩展到了非欧几里得数据结构，如社交网络、化学分子结构等。...
cora数据集、含图卷积训练代码
11-12
图卷积网络的优势在于其能捕获图的拓扑结构信息，这对于文献分类、社交网络分析、推荐系统等领域具有重要的应用价值。Cora数据集和GCN的结合为图学习提供了直观且有效的实例，对于理解图神经网络的工作原理以及在...
文献阅读（37）-使用深度卷积神经网络糖网检测和分类
10-21
该文献主要探讨了一种利用深度卷积神经网络（CNN）增强的糖尿病视网膜病变（DR，Diabetic Retinopathy）检测与分类方法。糖尿病视网膜病变是一种由糖尿病引起的严重并发症，它对视网膜造成损害，可能导致视力丧失。...
GNN的一些总结
图挖掘领域，新晋砖家 ☞ 未来可期，欢迎和静静一起学习交流吖
04-29 5844
转载dongZheX 目录 1.为什么我们需要图神经网络： 2.图神经网络发展的一些历史 3. Basic Model 4. Analysis 5 Efficiency 6.Pooling 7.About Experiment 8.GNN领域中的一些问题： 最近在接触图神经网络这块，因此目前我还是个搬运工，学习各位大佬的总结，希望之后我可以自己写一些总结。 大佬主要借鉴论文...
论文解读：基于图神经网络与蛋白质接触图的药靶亲和力预测（二）2021SC@SDUSC
chy931088287的博客
11-10 1374
论文解读：基于图神经网络与蛋白质接触图的药靶亲和力预测（二） Drug–target affinity prediction using graph neural network and contact maps 文章采用的验证指标： CI CI主要用于计算分析中预测值与真实值之间的区别 其中bx为较大亲和dx的预测值，by为较小亲和dy的预测值，Z为归一化常数；h(x)为阶跃函数（前面说分析真实值与预测值与公式中只有预测值带入有点矛盾，但是字面意思是一致性，那么肯定是越大越好） MSE MSE也是衡量
python中如何创建一颗多叉树_多叉树的设计、建立、层次优先遍历和深度优先遍历...
weixin_39668890的博客
12-11 4334
多叉树的设计、建立、层次优先遍历和深度优先遍历早起曾实现过一个简单的多叉树《实现一个多叉树》。其实现原理是多叉树中的节点有两个域，分别表示节点名以及一个数组，该数组存储其子节点的地址。实现了一个多叉树建立函数，用于输入格式为A B。A表示节点的名字，B表示节点的子节点个数。建立函数根据用户的输入，首先建立一个新的节点，然后根据B的值进行深度递归调用。用户输入节点的顺序就是按照深度递归的顺序。另外，...
Grad-CAM阅读笔记 -神经网络输出可视化
kebijuelun的博客
10-30 2611
Paper Reading Note URL: https://arxiv.org/abs/1610.02391 TL;DR 提出一种对神经网络输出进行可视化的方式Grad-CAM（Gradient-weighted Class Activation Mapping），有助于理解神经网络的工作原理及决策过程 Dataset/Algorithm/Model/Experiment Detail T...
论文解读：基于图神经网络与蛋白质接触图的药靶亲和力预测（一）2021SC@SDUSC
热门推荐
chy931088287的博客
11-09 1万+
2021SC@SDUSC 论文解读：基于图神经网络与蛋白质接触图的药靶亲和力预测（一） Drug–target affinity prediction using graph neural network and contact maps 摘要 计算机辅助药物设计是利用高性能计算机模拟药物设计任务的一个很有前景的研究领域。药物靶标亲和度(DTA)预测是计算机辅助药物设计中最重要的一步，可以加快药物开发速度，减少资源消耗。随着深度学习的发展，将深度学习引入到DTA预测中，提高DTA预测的准确性已成为研究的热点
Dropout层的意义是什么？
写代码炒股的算命先生
03-31 1427
通过合理设置 dropout 参数，能够加强模型的鲁棒性，提高模型的泛化能力，从而避免模型出现过拟合的情况。这样，对于每个神经元，其权重的更新是不稳定的，由于随机性，这种删除神经元可能使得模型更加鲁棒，在测试阶段提供更好的结果。因为在训练过程中随机删除神经元可以有效降低模型的过拟合，但在测试时，应该使用全连接层的所有神经元以得到更准确的结果。总之，Dropout层是一种非常有效的方法来避免深度学习模型中的过拟合问题，提高模型的性能和鲁棒性。
AI医药论文笔记--GraphDTA: Predicting drug–target binding affinity with graph neural networks
xiao_muyu的博客
01-25 2317
GraphDTA：用图神经网络预测药物-靶点结合亲和力 论文题目 GraphDTA: Predicting drug–target binding affinity with graph neural networks 论文出自 bioRxiv preprint，2020 使用图神经网络来预测药物与靶标的亲和力。将药物表示为分子图，因此该模型可以直接捕获原子间的键。 文章目录GraphDTA：用图神经网络预测药物-靶点结合亲和力一、**GraphDTA模型图：**二、实验结果？ 一、Gr
从图(Graph)到图卷积(Graph Convolution)：漫谈图神经网络模型 (三)
bbbeoy的专栏
04-01 617
恭喜你看到了本系列的第三篇！前面两篇博客分别介绍了基于循环的图神经网络和基于卷积的图神经网络，那么在本篇中，我们则主要关注在得到了各个结点的表示后，如何生成整个图的表示。其实之前我们也举了一些例子，比如最朴素的方法，例如图上所有结点的表示取个均值，即可得到图的表示。那有没有更好的方法呢，它们各自的优点和缺点又是什么呢，本篇主要对上面这两个问题做一点探讨。篇幅不多，理论也不艰深，请读者放心地看。 ...
卷积神经网络图像分类的参考文献
10-22
根据提供的引用内容，卷积神经网络是完成图像识别任务的最佳算法之一。以下是一些卷积神经网络图像分类的参考文献： 1. Krizhevsky, A., Sutskever, I., & Hinton, G. E. (2012). ImageNet classification with deep convolutional neural networks. In Advances in neural information processing systems (pp. 1097-1105). 2. Simonyan, K., & Zisserman, A. (2014). Very deep convolutional networks for large-scale image recognition. arXiv preprint arXiv:1409.1556. 3. He, K., Zhang, X., Ren, S., & Sun, J. (2016). Deep residual learning for image recognition. In Proceedings of the IEEE conference on computer vision and pattern recognition (pp. 770-778). 4. Huang, G., Liu, Z., Van Der Maaten, L., & Weinberger, K. Q. (2017). Densely connected convolutional networks. In Proceedings of the IEEE conference on computer vision and pattern recognition (pp. 4700-4708). 5. Szegedy, C., Ioffe, S., Vanhoucke, V., & Alemi, A. A. (2017). Inception-v4, inception-resnet and the impact of residual connections on learning. In Thirty-First AAAI Conference on Artificial Intelligence.
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值