AI博士读用于药物发现的Transformer文献 【AI4Science技术报告】

机器学习模型进行类药分子设计： 

机器学习辅助分子生成https://www.nature.com/articles/s42256-024-00843-5Nature Machine Intelligence ( IF 18.8 ) , DOI: 10.1038/s42256-024-00843-5 

SMILES Transformer: Pre-trained Molecular Fingerprint for Low Data Drug Discoveryhttps://arxiv.org/pdf/1911.04738

SMILES Transformer（ST）以无监督的方式进行预训练，该Transformer在给定 SMILES 的情况下产生连续的、数据驱动的分子指纹，可以用于许多下游任务。 分子的ST指纹的维度使用t-SNE减少到2,可将 SMILES Transformer潜在空间可视化。

用于多标签图像分类的图注意Transformer网络https://dl.acm.org/doi/10.1145/3578518ACM Transactions on Multimedia Computing, Communications, and Applications ( IF 5.2 ) ,

DOI: https://dl.acm.org/doi/10.1145/3578518

该架构首先通过标签节点嵌入的余弦相似度来初始化邻接矩阵，然后采用图注意力变压器层来挖掘子图结构。