Drug–drug interaction prediction with learnable size-adaptive molecular substructures

Drug–drug interaction prediction with learnable size-adaptive molecular substructures

基本信息

博客贡献人

鲁智深

作者

Arnold K. Nyamabo, Hui Yu, Zun Liu and Jian-Yu Shi

标签

Drug–Drug Interaction; Substructure extraction; Substructure interaction; Multi-type interactions; Gated Message Passing Neural Network

摘要

    药物-药物相互作用（DDIs）是指两种或两种以上不相容的药物一起使用对身体产生不良反应的相互作用。DDIs可能是由相关药物的化学成分引起的。基于药物化学知识，即药物是一个实体由不同的官能团/化学子结构决定所有的药代动力学（如何处理生物）和药效学（它如何影响组织）属性，并决定最终的相互作用。

• 介绍了门控消息传递神经网络（GMPNN），从药物的分子图表示中学习不同大小和形状的化学子结构，用于一对药物之间的DDI预测。
• GMPNN中，边被认为是控制消息传递流的门，因此以一种可学习的方式划分子结构。药物对之间的最终DDI预测是基于它们（学习的）子结构对之间的相互作用。
• 提出的方法GMPNN-CS在两个真实数据集上进行了评估，在一个数据集上的结果具有竞争力，另一个数据集上比以前的方法有所提高。

问题定义

    给定一组药物$D$和一组相互作用类型$R$，DDI预测任务可以看作是一个函数$f:D\times R\times D\to [0,1]$。也就是说，给定两种药物和某种类型的相互作用的三元组，该任务预测了两种药物之间发生这种相互作用的概率。目标是找到$f$的近似，给定一个已知的DDIs $M=\{(d_x,r,d_y{)}_i{\}}_{i=1}^N\subset D\times R\times D$。论文提出的方法就是这样一种近似。

方法

方法描述

图1. GMPNN-CS整体框架

方法流程如下：
为了确定两种药物$d_x$和$d_y$是否可以导致相互作用$r$：
(1) 模型将药物对的图表示作为输入；
(2) 使用门控消息传递神经网络进行子结构提取；
(3) 提取的子结构之间计算一个交叉子结构注意${\gamma }_{ij}$，以了解它们彼此之间的相关性;
(4) 最终DDI预测$p(d_x,d_y,r)$是这些子结构的相互作用分数之和，每个子结构由共注意权重${\gamma }_{ij}$进行加权

基于门控消息传递神经网络的子结构提取

图2. 子结构提取的示例 传统MPNN在图中游走，被访问的节点中有冗余（一个节点可以在游走中出现不止一次，但在路径中最多出现一次）；为了更接近路径生成过程，选择使用有向消息传递神经网络（D-MPNN） D-MPNN的消息传递、聚合（公式）和更新:

$$m_{k\to j}^{(l)}=M^{(l)}(h_k,h_j,q_{k\to j}^{(l-1)}),\forall k:v_k\in N(v_j)\backslash v_i\text{\hspace{1em}(4)}$$
$$a_i^{(l)}=A^{(l)}({m_{k\to j}^{(l)}}_{k:v_k\in N(v_j)\backslash v_i})\text{\hspace{1em}(5)}$$
$$q_{j\to i}^{(l)}=U^{(l)}(q_{j\to i}^{(l-1)},a_i^{(l)})\text{\hspace{1em}(5)}$$

1. 对节点进行非线性变换，以获得更好的特征表示：
   $$h_i=ML{P}_{init\_n}(x_i),\forall v_i\in V\text{\hspace{1em}(8)}$$
2. 对边进行非线性变换：
   $$h_{j\to i}=ML{P}_{init\_e}(x_{ji}),\forall e_{j\to i}\text{\hspace{1em}(9)}$$
   $$h_{i\to j}=ML{P}_{init\_e}(x_{ij}),\forall e_{i\to j}\text{\hspace{1em}(10)}$$
3. 边$e_{j\to i}$的权值（门）$w_{j\to i}\in [0,1]$基于节点的特征$h_j$和$h_i$，以及其自身的特征$h_{j\to i}$：
   $$o_{j\to i}=-\frac{1}{c}(h_{j\to i}^{T}ML{P}_w(h_j||h_i))$$
   $$w_{j\to i}=\sigma (o_{j\to i})\text{\hspace{1em}(11)}$$
   $\sigma (\cdot )$是用于约束$w_{j\to i}$到[0,1]中的s型函数
4. 现在有节点特征向量$h_i$和边权值$w_{j\to i}$，应用有向消息传递机制来模拟节点沿路径的聚合，以进行子结构提取。由于消息是在边之间而不是在节点之间传递的，因此将节点的特征提升到边。边$e_{j\to i}$的新特征为：
   $$q_{j\to i}^{(0)}=w_{j\to i}{h}_j\text{\hspace{1em}(12)}$$
5. 消息传递、聚合和更新被定义为：
   $$m_{k\to j}^{(l)}=w_{j\to i}{q}_{k\to j}^{(l-1)},\forall k:v_k\in N(v_j)\backslash v_i\text{\hspace{1em}(13)}$$
   $$a_{j\to i}^{(l)}=\sum _{k:v_k\in N(v_j)\backslash v_i}{m}_{k\to j}^{(l)}\text{\hspace{1em}(14)}$$
   $$q_{j\to i}^{(l)}=q_{j\to i}^{(0)}+a_{j\to i}^{(l)}\text{\hspace{1em}(15)}$$
6. 在最后一次迭代L后，一个节点$v_i$的最终表示捕获了以它为中心的子结构信息：
   $$s_i=f_{sub}(h_i+\sum _{j:v_j\in N(v_i)}{q}_{j\to i}^{(l)})\text{\hspace{1em}(16)}$$

DDI预测

    给定一个DDI元组$(d_x,r,d_y)$，DDI预测被表示为该元组的联合概率：
$$p(d_x,r,d_y)=\sigma (\sum _i^{|V_x|}\sum _j^{|V_y|}{\gamma }_{ij}{\hat{s}}_i^{(x)T}{M}_r{\hat{s}}_j^{(y)}\text{\hspace{1em}(17)}$$
    ${\hat{s}}_i^{(x)}$和${\hat{s}}_j^{(y)}$分别是子结构$s_i^{(x)}$和$s_j^{(y)}$的线性变换：
$${\hat{s}}_i^{(x)}=W_{(x)}{s}_i^{(x)},i=1,...,|V_x|\text{\hspace{1em}(18)}$$
$${\hat{s}}_j^{(y)}=W_{(y)}{s}_j^{(y)},j=1,...,|V_y|\text{\hspace{1em}(19)}$$
    $M_r\in R^{b\times b}$是交互类型$r$的可学习表示矩阵。为了减少参数量，将其约束为一个对角矩阵：
$$M_r=diag(m_r)\text{\hspace{1em}(20)}$$
    ${\gamma }_{ij}\in [0,1]$是交叉子结构相互作用权重，也称为共注意力：
$${\gamma }_{ij}=softmax(ML{P}_{\gamma }(s_i^{(x)}||s_j^{(y)})),i=1,...,|V_x|,j=1,...,|V_y|\text{\hspace{1em}(22)}$$
    利用二元交叉熵对模型进行端到端梯度下降训练。数据集中给定的DDIs被认为是正样本。对于每个正样本$(d_x,r,d_y)$，按照[1]中提出的策略替换$d_x$或$d_y$生成一个负样本。整个DDI数据集上的损失函数计算如下：
$$L=-\frac{1}{M}\sum _{i:(d_x,r,d_y{)}_i\in M}(log(p_i)+log(1-p_i^{{}^{\prime }})\text{\hspace{1em}(24)}$$

实验

实验设置

数据集

DrugBank数据集

DrugBank数据集包含1706种药物，191808个DDI，86种DDI类型
每个DDI元组只有一个相互作用，即没有两个不同的元组具有相同的药物对，但有不同的相互作用。

Twosides数据集

Twosides数据集包含645种药物，4649441个DDI，1317种DDI类型
每个DDI元组可能存在多个相互作用。

对比方法

1. MR-GNN

   利用多分辨率的体系结构来学习全面和有效的特征

2. MHCADDI

   在药物结构之间引入消息传递机制，在药物的表示学习阶段整合联合药物-药物信息

3. SSI-DDI

   将每个节点的隐藏特征视为子结构，然后计算这些子结构之间的交互，以确定最终的DDI预测

4. GMPNN-U

   GMPNN-CS的变体，其中共注意系数${\gamma }_{ij}=(|V_x||V_y{|}^{-1})$。

实验结果及分析

评估指标

    准确率ACC；AUC；平均精度AP、F1、精度P和查全率R

实验结果分析

热启动场景

表1.在热启动场景下的比较评估（平均值±std）。每个指标的最佳性能以粗体显示。最后一行显示了通过提出的方法在每个指标上的DDI预测任务的性能改进。这是提出的方法的性能和基线方法之间的最佳性能之间的差异。因此，负值意味着提出的方法没有表现最好，正的值表示它表现最好

    在热启动场景下，在训练集中使用的药物也可以出现在测试集中。在这种情况下，基于DDI元组随机划分数据集。根据相互作用类型对两个数据集进行了分层分割，以保持训练（60%）、验证（20%）和测试（20%）集中相互作用类型的相同比例。重复三次此过程，结果产生了三次分层的随机fold。
    在DrugBank数据集上，提出的方法并没有表现最好。且GMPNN-CS及其变体GMPNN-U的结果非常接近。在Twoside数据集上，与其他方法相比有明显的改进。由于计算量的限制，不能在此数据集上使用MHCADDI进行实验；只报告了原始论文的结果（仅AUC可用）。GAT-DDI似乎在这个数据集上就像一个随机分类器，可能是由于梯度消失/爆炸或过度平滑的问题，在此数据集的改进计算中没有考虑它。

冷启动场景

表2.在冷启动场景下的比较评估（平均值±std）。每个指标的最佳性能以粗体显示

    数据集根据药物进行分割，即训练集和测试集中的DDI元组没有重叠的药物。随机保留了五分之一的药物作为新药（$D_{new}$），不在训练中使用。$M_{s1}$收集两种药物都在$D_{new}$中的DDI元组，$M_{train}$收集两种药物都在$D_{old}$中的DDI元组，$M_{s2}$收集一种药物在$D_{old}$中，另一种药物在$D_{new}$中的DDI元组。此过程重复三次，结果产生了三次随机fold。
    可以看到提出的方法总体上表现最好。所有方法的性能与热启动场景相比都有显著的下降。这是因为DrugBank是由在支架（核心化学结构）方面有显著差异的药物组成。因此，$D_{new}$和$D_{old}$中的药物不仅不同，且在结构上几乎没有共同之处。

可视化

(1) 检索${\gamma }_{ij}$值最高的子结构对
(2) 子结构的权重呈现重新定义如下：
$v_1\stackrel{w_{2,1}}{\leftarrow }{v}_2\stackrel{w_{3,2}}{\leftarrow }{v}_3$是构成子结构的路径之一，在可视化示例中，边具有路径中前面所有边值与其自身值的乘积值，即，$v_1\stackrel{w_{2,1}}{\leftarrow }{v}_2\stackrel{w_{2,1}{w}_{3,2}}{\leftarrow }{v}_3$
  为简单起见，如果一条边有多个相邻的边（即出现在多个路径中），那么取最大值。
(3) 这些值显示在相应的边缘上，并作为强度来突出显示图中的（绿色）边缘，子结构的中心节点用灰色填充的圆圈突出显示。

图3. 碳酸钙与氯沙星之间DDI预测的可视化。

图4. 亚硝酸戊酯和西地那非之间DDI预测的可视化。

    PDE5抑制剂与硝酸盐药物同时服用是禁忌，因为它可导致血压降低。可以看到，亚硝酸戊酯的硝酸基（红色虚线框中）与DDI预测结果非常相关。
    氯沙星的碳基氧和羧酸（都显示在红色虚线框中）可以与金属离子（碳酸钙的钙）形成螯合物。螯合物的水溶性很差，因此可以显著降低对沙星在体内的吸收。

相关知识链接

下载

源代码资源
GMPNN-CS

总结

亮点

• 利用药物的化学子结构来预测一对药物之间的药物-药物相互作用，利用共注意机制来学习，每个成对的子结构相互作用参与药物-药物相互作用的相关性。
• 提出了门控消息传递神经网络，从药物的分子图中学习各种大小和形状的子结构。

[不足]

• 药物主要是有机分子，大多数原子是碳，产生的分子图中大多数节点是相似的，这可能会影响边权值。
• 每个节点/原子都被认为是子结构的中心，因此子结构和节点一样多。彼此相邻的节点最终成为相似的子结构的中心，${\gamma }_{ij}$被一组非常相似的子结构过度使用，从而导致冗余。

[启发]

• 通过加权的有向图消息传递，可拟合大小和形状不一的子结构，原理上可以将边的权值赋予权值0，但在实际情况中，权值一般不为0，会引入噪声。

BibTex

@article{nyamabo2022drug,
  title={Drug--drug interaction prediction with learnable size-adaptive molecular substructures},
  author={Nyamabo, Arnold K and Yu, Hui and Liu, Zun and Shi, Jian-Yu},
  journal={Briefings in Bioinformatics},
  volume={23},
  number={1},
  pages={bbab441},
  year={2022},
  publisher={Oxford University Press}
}