《A self-attention based message passing neural network for predicting molecular lipophilicity》阅读笔记

《A self-attention based message passing neural network for predicting molecular lipophilicity and aqueous solubility》 阅读笔记

1. 文献类型: Journal of Cheminformatics
2. 链接：https://jcheminf.biomedcentral.com/articles/10.1186/s13321-020-0414-z#Sec12
3. 概要：

• 描述了一种基于自我注意的消息传播神经网络(SAMPN)模型，它是Deepchem的MPN的改进，在深度学习方面是最先进的。
• 在学习过程中，直接学习每个QSAR/QSAPR任务的最相关特征，并对子结构进行重要度分配，提高预测的可解释性。
• 我们的SAMPN图网络利用了上面描述的化学图结构，其中每条边都来自化学键，每个原子都是节点。
• 我们的消息传递神经网络(MPN)和SAMPN模型都可以作为多目标模型(Multi-MPN或Multi-SAMPN)，不仅可以了解化学结构和性质之间的关系，还可以了解分子内在属性之间的关系。
• 为了演示我们的计算方法，我们选择了亲水性和水溶性作为目标属性，

4. 存在问题

   • 分子的固定指纹特征可能并不是所有任务的最合适表示。传统方法无法反映哪些特征与模型最相关。
   • SMILES表示并不旨在捕获分子相似性，不关注所涉及的分子结构。

5. 解决途径

   • 将SMILES形式转成有向图，并将键的方向设定为双向
     

   • Message passing network encoder
     消息传递和更新阶段：
     

   经过几个steps后，读出操作：
   

   • Self‑attention mechanism
     得到每个节点的隐向量后，如何捕捉亚结构对目标分子特性的影响：
     

   总示意图：
   

6. 创新点

• 在MPN上使用双向键进行消息传递
• 使用attention机制

7. 启发

• 使用skip connection 防止梯度消失，实现消息的远距离传输
• attention 的模式