药物-靶标亲和力预测，上科大团队开发了一种Transformer编码器和指纹图谱相结合的方法

药物与靶标之间的结合亲和力的预测对于药物发现至关重要。然而，现有方法的准确性仍需提高。另一方面，大多数深度学习方法只关注非共价（非键合）结合分子系统的预测，而忽略了在药物开发领域越来越受到关注的共价结合的情况。

上海科技大学的研究团队提出了一种新的基于注意力的模型，称为 TEFDTA （Transformer Encoder and Fingerprint combined Prediction method for Drug-Target Affinity），来预测键合和非键合药物-靶标相互作用的结合亲和力。

为了处理如此复杂的问题，研究人员分别对蛋白质和药物分子使用了不同的表示。具体来说，通过使用非键合蛋白质-配体相互作用的数据集训练模型来构建初始框架。

对于广泛使用的数据集 Davis，该团队提供了一个手动校正的 Davis 数据库。为了优化性能，还在 CovalentInDB 数据库中的较小共价相互作用数据集上对该模型进行了微调。

结果表明，与单独使用 BindingDB 数据相比有了显著改进，预测非共价结合亲和力平均提高了 7.6%，预测共价结合亲和力平均提高了 62.9%。

该研究以「TEFDTA: a transformer encoder and fingerprint representation combined prediction method for bonded and non-bonded drug–target affinities」为题，于 2023 年 12 月 23 日发布在《Bioinformatics》。

在药物研发领域，预测药物与靶点相互作用/亲和力（DTI/DTA）是不可或缺的组成部分。

在早期阶段，研究人员通过实验确定这些相互作用，这既耗时又昂贵。随着计算机技术的进步，研究人员开始利用计算机来预测药物与靶点的相互作用，并使用对接程序（例如 GLIDE、Molegro Virtual Docker）模拟药物与靶点的结合姿势。但这种对接方法也有相应的局限性，即对接过程也需要较长的计算时间，并且需要蛋白质的三维结构。

随着机器学习和深度学习的发展，研究人员尝试将这些领域纳入DTI。目前，基于深度学习的方法已得到广泛应用。这些方法的优点是能够自动提取特征。然而，初始输入数据，特别是蛋白质和小分子的数据描述，显著影响模型的性能。

在最新的研究中，上海科技大学的研究团队提出了一种用于预测药物-蛋白质相互作用中的共价（键合）和非共价（非键合）结合亲和力的新模型，称为指纹编码器 DTA (TEFDTA)。

TEFDTA_数据

图示：TEFDTA 框架。

TEFDTA 从两个现有模型 DeepDTA 和 TransformerCPI 中汲取灵感。DeepDTA 提供了一种使用 1D-CNN（一维卷积神经网络）从序列中提取特征的方法。该模型侧重于从序列信息中提取局部模式特征，以方便特征提取。虽然循环神经网络（RNN）也可以处理一维输入并执行特征提取，但它们存在某些局限性。

另一方面，CNN 在有效捕获全局特征方面存在局限性。RNN 尽管能够通过网络传播处理整个序列，但会遇到随着时间的推移而忘记信息的问题。TransformerCPI 证明 Transformer 可以有效解决 CNN 和 RNN 模型中存在的问题。Transformer 构建在编码器和解码器之上。

鉴于此，该团队利用 Transformer 作为特征提取器来提取复杂的分子序列。值得注意的是，单个编码器足以完成此任务，因为由于潜在的收敛困难，更复杂的模型将需要更长的训练时间，而不必增强信息提取。

为了评估 TEFDTA 的性能，研究人员在 Davis、KIBA 和 BindingDB 数据集上进行了实验，并将结果与其他结合亲和力预测模型（即 DeepDTA 和 DeepCDA）进行了比较。

结果证实了 TEFDTA 在结合亲和力预测方面的性能。此外，通过对数据库 CovalentInDB 中键合蛋白-配体相互作用的数据集进行微调，进一步优化了该模型。共价结合数据根据常见弹头进行分类，并对每个弹头类别进行单独微调。结果表明，微调过程显著提高了模型对共价结合亲和力的预测准确性，强调了专门训练的重要性。 

TEFDTA_人工智能_02

图示：六种常见弹头微调前后的共价结合亲和力预测比较。

此外，该团队还进行了预测针对 EGFR 的药物分子的结合亲和力的案例研究。结果表明，虽然该模型可能无法精确预测具有相同主链结构但取代基不同的分子的确切结合亲和力值，但它能够捕获分子上不同取代基引入的亲和力方差的趋势。这表明该模型对局部结构变化的潜在敏感性及其近似结合亲和力强度的能力，需要用更大的数据集进行确认以进行进一步的评估或训练。

TEFDTA_数据_03

图示：TEFDTA 对区分由微小结构差异引起的结合亲和力 (pKd) 差异的敏感性的结果。

总之，TEFDTA 结合了指纹变换和 Transformer 编码器模块，为准确预测药物-靶标相互作用提供了一种改进的方法。

同样该模型也存在一些局限性。虽然该模型可以成功捕获分子序列的微小变化对亲和力的影响，但它对蛋白质片段的突变（包括单个或几个氨基酸变化）并不敏感。对于虚拟筛选任务，当突变发生时检测亲和力的可观察变化非常有价值。

直接从蛋白质的 FASTA 序列中提取特征很难实现这一目标，因为单个氨基酸突变在整个蛋白质的嵌入中是难以察觉的。然而，随着大型语言模型的出现，通过在大量蛋白质序列上预训练这些模型，通过无监督学习来提取蛋白质的表示已经成为可能。通过使用下游任务（例如具有突变的数据）对模型进行微调，模型变得对关键氨基酸敏感。

未来，该团队还将尝试使用大型语言模型来提取蛋白质表示。此外，目前对共价结合亲和力的预测需要先验了解配体和靶标对的共价键类型，这可能限制了广泛和正确的应用，特别是对于非化学家来说不友好。这些方向值得在未来的研究工作中进一步探索。

论文链接： https://academic.oup.com/bioinformatics/article/40/1/btad778/7492659