Nature Communications | 多通道学习将结构层次集成到上下文相关的分子表示中-CSDN博客

本文链接：https://blog.csdn.net/everly_/article/details/145647484

今天分享的是一篇发表在nature communications期刊上的论文：“Multi-channel learning for integrating structural hierarchies into context-dependent molecular representation”，本文介绍了一种创新的多通道学习框架，用于整合分子结构层次信息，生成上下文依赖的分子表示，以提升分子性质预测的准确性。

1.介绍

在药物发现领域，可靠的分子性质预测至关重要，但数据稀缺和分子结构与性质之间的复杂关系给模型开发带来了挑战。尽管自监督学习（SSL）在分子表示学习中展现出潜力，但现有方法往往忽视了化学知识，难以捕捉分子性质的上下文依赖性，且在处理“活性悬崖”等复杂场景时表现不佳。

针对这些问题，论文提出了一种多通道预训练框架，通过不同的预训练任务学习分子的全局和局部特征，并在微调阶段根据具体任务聚合信息，使表示具有上下文依赖性。该框架包括分子距离对比学习、支架距离对比学习和上下文预测三个通道，分别从全局、局部和功能基团等不同角度学习分子表示。实验结果表明，该方法在多个分子性质预测基准测试中取得了优异的性能，特别是在处理活性悬崖等复杂场景时，展现出更强的鲁棒性和优势。

2.方法

2.1整体框架设计

该框架主要包含三个部分：分子对比学习、骨架对比学习、分子上下文预测、提示引导的聚合模块。预训练阶段，将原始分子图、遮掩处理的分子图、在骨架不变情况下扰动的分子图输入一个统一的编码器，将得到的表征分流到各自的通道中，使用提示引导的聚合模块获得专注于分子不同层次的结构特征。

2.2自适应边距对比学习

传统的三元组损失函数通常用于对比学习，目标是将相似样本（正样本）拉近，并将不相似样本（负样本）推远。具体来说，对于一个给定的锚点（anchor），正样本和负样本之间的距离需要满足一定的边距（margin）要求，公式如下，该公式要求正样本之间的距离与负样本之间的距离之差至少为固定边距α，这忽略了已知的分子结构间的相似性。论文使用了自适应边距对比损失，该损失用在分子对比学习、骨架对比学习中，公式如下，其中，利用分子指纹相似度来计算自适应边距，同时损失的计算由三元组变为了四元组，虽然理论复杂度升高，但可以对α2中的相似性之差执行固定大小的随机抽样。如果计算值为负值，则四元组也会被丢弃。

2.3提示引导的多通道学习

每个通道的聚合模块中，有特定的查询向量与原子表示进行交叉注意力，得到对应的分子表示，之后可根据这3种分子表示计算分子对比损失、骨架对比损失、上下文预测损失。为了提高通道对齐、正则化融合表示，使用预设的提示权重将这3个层次的特征加权求和得到融合表征，用一个小型监督任务的预测损失作为正则项，损失函数公式如下，在微调阶段，冻结聚合模块的参数，根据特定的任务调整编码器参数和提示权重。

3.实验

论文使用了一个5层的GIN模型作为编码器，隐藏层维度为300。GIN模型能够有效地捕捉分子图的结构信息，并通过消息传递机制更新节点表示。还使用了一个具有相同层数和隐藏层维度的Graph Transformer(GPS)模型，GPS 模型能够更好地处理分子图中的长程依赖关系，并通过自注意力机制捕获节点之间的相互作用。

3.1实验数据集

MoleculeNet基准测试：该基准测试包含七个分类任务，涵盖了生理、生物物理等多个分子性质领域。
MoleculeACE基准测试：该基准测试包含30个结合亲和力预测任务，数据集主要关注结构-性质关系（SPR），其中活性悬崖现象较为突出。这些数据集主要包含分子与大分子靶标的结合亲和力测量数据，如Ki值等，对于评估模型在药物发现中的应用具有重要意义。

3.2实验结果及分析

在MoleculeNet基准测试中，论文方法在多个任务上取得了优异的性能。具体来说，OursGIN和OursGPS在BBBP、Clintox、BACE和SIDER数据集上的ROC-AUC值均高于其他基线方法。

在MoleculeACE基准测试中，在多个结合亲和力预测任务上也表现出色。具体来说，OursGPS 在 30 个数据集中的平均R-squared值，仅次于KPGT，但模型尺寸比KPGT小一个数量级。在数据量较小的数据集上，也能够取得较好的性能，这得益于多通道学习框架能够充分利用有限的数据学习到有效的分子表示。

为了评估模型表示的鲁棒性，对模型在微调过程中的表示空间变化进行了探测，使用T-SNE技术将表示空间降维到二维，在训练过程中的ROGI值始终较低，表明表示具有更平滑的结构-性质景观，更易于建模。同时，Rand指数下降幅度较小，表明在微调过程中对分子结构信息的保留较好。此外，论文的方法的悬崖-非悬崖距离比始终大于1，且高于其他方法，表明对活性悬崖具有更好的理解。

在活性悬崖分析中，使用GNNExplainer对模型的预测结果进行解释，并与AutoDock Vina预测的结合模式进行对比，可知论文方法能更准确地识别出对结合亲和力有重要影响的化学结构特征，从而活性悬崖问题上有更大的优势。

4.结论

论文提出的的多通道学习框架，通过整合分子结构层次信息，生成上下文依赖的分子表示，在分子性质预测和结合亲和力预测任务上取得了优异的性能。实验结果表明，该框架能够有效地处理活性悬崖等复杂场景，具有更强的鲁棒性和泛化能力。这一研究为分子机器学习领域提供了新的思路和方法，有望推动药物发现领域的应用。未来，可以将进一步探索该框架在其他化学领域的应用，并尝试结合更多的输入表示和更有效的提示权重优化机制，以进一步提高模型的性能。