山东大学软件学院创新项目实训-基于大语言模型的药物分子性质分析平台（一）

目录

1.项目简介

1.1项目背景

1.2技术要点

1. 药物信息领域与AI领域相结合

2. 可交互页面

3. 采用多种主流的深度学习算法

4.支持处理多种化学分子下游任务

2.承担任务

2.1本周任务

2.2相关知识学习

1.MolTC的新型多模态框架

2.BioT5+的先进生物学理解框架

---

1.项目简介

1.1项目背景

药物发现和开发过程确实是一项耗时且成本高昂的工作。通常需要数年时间和数十亿美元才能将一种药物推向市场。这一过程涉及探索和理解广阔的化学空间以及分子结构与其生物活性之间的复杂关系。传统方法通常涉及费力的迭代测试，而后期的失败率很高，这使得我们迫切需要一种能够直观理解药物化合物分子图中固有复杂数据并产生有意义见解的工具。

现如今，计算化学和化学信息学的最新进展提供了一些喘息的机会，但仍然迫切需要能够直观地理解药物化合物分子图中固有的复杂数据并产生有意义的见解的工具。

在这个背景下，我们的目标是实现一种全新的平台，能够改变我们与复杂实体交互和理解的方式。通过将药物分子转化成适合人工智能分析的形式，我们将能够动态探索化学空间，有效预测化合物性质，并为药物设计和优化提供智能建议。

但是实现这样功能具有很多困难与挑战，主要的挑战之一在于分子图的表示。与文本数据不同，文本数据是顺序的，具有良好定义的结构，分子图本质上是非顺序的，高度复杂，没有明确的起点或终点。开发一种方法将这些图转换成模型可以处理的格式是至关重要的。其次，另一个重大挑战是捕获和理解药物化合物中复杂的构效关系(SAR)。这些关系通常不是直截了当的，可能涉及分子不同部分之间微妙的相互作用。第三，要实现这样一个系统，需要大量的分子结构数据集，以及它们相关的生物活动、副作用和其他特性。考虑到这些信息的专有性质和化学领域的多样性，生成或编译这些数据集是一项艰巨的任务

我们的平台将利用先进的人工智能技术，特别是基于大语言模型的药物分子性质分析，以更直观的方式呈现复杂的药物化合物数据。通过这种转化，我们将能够从不同的角度深入了解分子结构的内在特征，并将其与大量的药物性质数据进行关联。我们将提供可视化平台，满足用户对于药物性质，因此用户输入相关分子信息，并询问有关该化合物的各种问题。我们的模型将以具有易用性的方式提供翔实的答案。

1.2技术要点

1. 药物信息领域与AI领域相结合

我们将将药物信息学和大模型进行交叉联合建模，可以克服传统生物分子表示方法的局限性，模型可以利用广泛的生物知识来进行生物分子的相关任务，从而实现对分子更细致的控制和生成。

2. 可交互页面

我们的模型将提供基于交叉建模的可交互页面，计划设计直观、简洁、易用的界面，减轻使用者的编程负担，增强使用者对该系统的接受度和使用意愿。

3. 采用多种主流的深度学习算法

我们的模型将集成多种主流算法，包括GNN、LLM、Transformer、LSTM、GRU、Attention机制等先进的深度学习处理方法。这些方法的融合将使我们的模型具备更强大的能力，能够处理文本和生物分子的复杂任务。

4.支持处理多种化学分子下游任务

我们的模型支持处理多种化学分子下游任务，包括分子性质预测，分子功能预测，靶点位点结合判别、药物相互作用等任务的完成实现。这些功能的实现将为化学领域的研究和药物开发提供有力的支持。

2.承担任务

2.1本周任务

本周主要进行了相关项目背景论文的阅读，小组讨论初步探讨了项目的大体介绍以及相关ui界面的初步设计以及任务分配，我主要负责前端ui界面的设计和渲染，在本周主要完成了相关文献的阅读，对项目背景以及技术有了一些了解。

2.2相关知识学习

1.MolTC的新型多模态框架的学习

了解了一种名为MolTC的新型多模态框架，旨在利用大型语言模型（LLMs）来预测分子间的交互性质。MolTC利用图神经网络（GNNs）来明确地获取分子对的图形信息，并通过两个精心设计的投影仪将其整合到LLMs的输入空间中。为了解决当前LLM-based MRL存在的数据利用不足的问题，MolTC开发了动态参数共享策略，以增强跨数据集信息交换的效率和有效性。

为了有效地训练这一综合框架，本文采用了两方面的方法：一是训练范式的改进，引入了多层次的Chain-of-Thought（CoT）理论来指导MolTC的训练过程；二是构建数据集基础，构建了一个名为MoT-instructions的分子交互指令数据集，以增强生物化学LLMs的发展。

实验结果表明，MolTC在各种领域的12个数据集上表现出优越性能，比当前的GNN和LLM-based基线方法更加出色。此外，本文还进行了消融研究和实验结果分析，以回答研究问题，并提出了未来工作的方向，包括将MolTC应用于少样本学习等领域，并增强其能力以处理多个输入。

文章出处：Fang, J., Zhang, S., Wu, C., Yang, Z., Liu, Z., Li, S., Wang, K., Du, W., & Wang, X. (2024). MolTC: Towards Molecular Relational Modeling In Language Models. 杂志名. 提交于：2024年2月6日，最后修订于：2024年2月21日（版本v5）.

2.BioT5+的先进生物学理解框架的学习

这篇论文介绍了一种名为BioT5+的先进生物学理解框架，旨在整合IUPAC命名、多任务调优和回归任务解决能力，以增强生物研究和药物发现。BioT5+通过以下显著增强实现了这一目标：

1. 增强分子理解：通过将IUPAC名称整合到BioT5+框架中，模型可以更深入地理解分子结构，从而解释化学名称，弥合了分子形式表示和科学文献中常见的化学名称之间的差距。

2. 多任务指导调优：采用Fang等人和Cao等人的方法对下游任务进行分类，并进行多任务指导调优，从而激活和利用BioT5+在处理各种生物问题方面的通用能力。

3. 实验和结果：BioT5+在21个下游基准数据集上进行了广泛评估，包括7个分子导向任务和8个蛋白质导向任务，涵盖分类、回归和生成三种问题类型。实验结果表明，BioT5+在大多数任务中表现出最先进的性能。

论文指出了BioT5+的成功之处，并提出了一些限制和伦理考虑。然而，它仍然需要更多专业化的方法来解决生物学任务的泛化问题，并且在处理多模态生物数据分析方面存在局限性。此外，论文还提到了BioT5+可能被滥用的潜在风险，包括生成有害分子和对知识产权的影响。

文章出处：Pei, Q., Wu, L., Gao, K., Liang, X., Fang, Y., Zhu, J., Xie, S., Qin, T., & Yan, R. (2024). BioT5+: Towards Generalized Biological Understanding with IUPAC Integration and Multi-task Tuning. Biomolecules, 发表预计日期：2024-02-27. DOI: arxiv-2402.17810.