腾讯AI Lab｜自适应自回归扩散模型设计活性人源化抗体和纳米抗体

本文链接：https://blog.csdn.net/m0_59235945/article/details/143416029

链接：https://www.biorxiv.org/content/10.1101/2024.10.22.619416v1

代码：https://github.com/TencentAI4S/HuDiff

本文详细介绍了一种基于自回归扩散模型的人源化抗体和纳米抗体设计方法HuDiff。HuDiff模型不仅在人源化方面表现优异，还能保留甚至提高抗体与目标抗原的结合亲和力。

1. 引言

1.1 抗体和纳米抗体概述

传统抗体具有典型的Y型结构，包括两对相同的蛋白质链，每对由一个重链和一个轻链组成。Y型结构的臂部称为Fab区域，负责特异性识别和结合抗原的表位，而杆部（Fc区域）负责与巨噬细胞等免疫细胞结合，促进免疫反应。由于其高度特异性和强大结合能力，抗体在多种疾病（如癌症、自身免疫性疾病和感染性疾病）治疗中具有重要应用。

单域抗体（VHH），通常被称为纳米抗体，其结构仅包含单一的重链，但功能上与传统抗体相似。与传统抗体相比，纳米抗体具有许多优势，例如较小的分子量、高溶解性、热稳定性以及出色的组织穿透能力，这使得它们在药物递送、成像以及跨血脑屏障等方面具有独特的应用价值。

1.2 抗体人源化的挑战

抗体的人源化是抗体药物开发中的重要环节。未经人源化的鼠源抗体在人体内可能引发人抗鼠抗体（HAMA）反应，降低抗体的治疗效果。传统的人源化方法包括嵌合抗体生成和互补决定区（CDR）移植，虽然这些方法可以降低免疫原性，但其在人源化过程中可能导致抗体的亲和力下降。因此，如何在降低免疫反应的同时保持甚至提高抗体的亲和力是人源化的一个重要研究方向。

1.3 HuDiff方法的提出

受到扩散模型在生物学任务中应用成功的启发，本文提出了HuDiff，这是一种基于自适应扩散模型的人源化方法。HuDiff具有两种变体：HuDiff-Ab用于抗体的人源化，HuDiff-Nb用于纳米抗体的人源化。该方法仅需CDR序列作为输入，无需使用人源化模板，即可从头生成框架区（FR）序列，克服了传统方法的局限性。

2. 方法与架构

2.1 HuDiff的总体架构

HuDiff的架构分为三个主要部分：编码器、隐藏特征学习块和解码器。编码器用于提取输入序列的特征，隐藏特征学习块用于学习复杂的序列关系，解码器则用于生成最终的预测序列。

2.1.1 编码器设计

HuDiff包含两个编码器：序列编码器和额外信息编码器。

序列编码器：首先通过嵌入层将输入的CDR序列和FR序列转化为隐藏特征。
额外信息编码器：包括位置编码器、区域编码器和链类型编码器。位置编码器用于引入残基的位置信息，区域编码器用于标识CDR和FR区域，链类型编码器则区分重链和轻链。区域编码器可以帮助模型识别输入序列中的不同功能区域，从而有效地处理抗体的不同结构域。

2.1.2 隐藏特征学习块

为了进一步捕捉序列中的复杂关系，HuDiff采用了Dual CNN块和Roformer块。

Dual CNN块：用于捕捉每条链中的局部信息，包括N个重链ByteNetBlock和N个轻链ByteNetBlock。这些块能够有效地提取局部上下文信息，帮助模型理解抗体序列中的关键结构特征。
Roformer块：用于学习整条配对序列中不同片段之间的关系，从而捕捉六个CDR和八个FR序列之间的相互联系。Roformer通过引入旋转位置编码增强了模型对长距离依赖关系的捕捉能力，确保模型在生成FR序列时能够考虑到CDR之间的相互作用。

2.1.3 解码器设计

解码器采用多层感知器（MLP）结构，将高阶特征转换为最终的残基预测。通过MLP，模型可以从隐藏特征中提取重要信息并生成对应位置的残基，从而实现序列的重构和预测。

2.2 HuDiff-Ab的训练流程

HuDiff-Ab的训练流程分为预训练和微调两个阶段：

预训练阶段：输入模型的是掩码状态的配对人类抗体序列，模型需要预测出掩码位置的残基。通过这种方式，模型能够学习序列之间的复杂关系，为后续的人源化提供基础。预训练的数据集来自公开的人类抗体序列库，确保模型能够在大规模数据上学习到通用的特征。
微调阶段：使用小鼠序列对模型进行微调，使其进一步学习小鼠抗体向人类抗体的变化。微调阶段的数据集包含大量的实验验证的小鼠抗体序列，通过微调模型能够适应特定物种到人类的转换需求。

HuDiff-Ab的独特之处在于，其使用配对的重链和轻链序列进行训练，能够更好地捕捉重链和轻链之间的相互作用。这种配对训练方式有助于保留抗体的结合特性，从而在完成序列人源化后仍能保持或提高其抗原结合能力。

2.3 HuDiff-Nb的训练流程

HuDiff-Nb的架构与HuDiff-Ab类似，但由于纳米抗体仅包含单一重链，因此信息编码器只包含区域编码器和位置编码器。此外，HuDiff-Nb在隐藏特征学习块中使用了单一的CNN块，而不是Dual CNN块。

在训练过程中，HuDiff-Nb同样分为预训练和微调两个阶段：

预训练阶段：使用人类抗体重链进行训练，学习人类抗体重链的序列特征。预训练阶段的目标是让模型掌握人类重链的通用特征，以便在纳米抗体上进行适应性调整。
微调阶段：使用骆驼类纳米抗体的CDR序列进行微调，确保模型能够更好地处理纳米抗体的特异性。在微调阶段，模型通过纳米抗体特有的CDR区域来引导FR区域的生成，从而在人源化的同时保留纳米抗体的功能特性。

3. 结果

3.1 HuDiff-Ab的评估与实验验证

3.1.1 HuDiff-Ab在人源化抗体中的表现

为了评估HuDiff-Ab在人源化抗体中的有效性，本文在多个公共数据集上进行了测试，包括Humab25和HuAb348数据集。结果表明，HuDiff-Ab在OASis和T20等指标上的表现显著优于传统的CDR移植方法，且与实验人源化的抗体结果相近。

在Humab25数据集上，HuDiff-Ab设计的人源化抗体在OASis和T20评分上与实验结果几乎一致，显示了其出色的通用化能力。在HuAb348数据集上，HuDiff-Ab在人源化后的重链和轻链的结构完整性方面也表现良好。

为了进一步验证人源化抗体的性能，本文还引入了AbLSTM得分和H得分。结果表明，HuDiff-Ab设计出的抗体在这些评估指标上与实验数据非常接近，展示了其在设计人源化抗体方面的有效性。AbLSTM得分用于评估抗体序列的稳定性，而H得分则反映了抗体的总体人源化水平。

3.1.2 SARS-CoV-2 RBD目标抗体2B04的人源化实验

本文选取了针对SARS-CoV-2的中和抗体2B04进行人源化，以评估HuDiff-Ab的有效性。2B04抗体是一种具有强中和活性的鼠源抗体，能够有效结合SARS-CoV-2的受体结合域（RBD）。通过生成多个变体并进行体外实验，结果显示，所有人源化抗体均保留了抗原结合能力，其中一个人源化抗体的结合亲和力与原始小鼠抗体几乎相当（0.15 nM vs 0.12 nM）。

BLI实验进一步验证了人源化抗体的结合能力，其中hAb1.2显示出与原始小鼠抗体2B04相当的结合强度，表明HuDiff-Ab在保持结合亲和力方面表现优异。

3.2 HuDiff-Nb的评估与实验验证

3.2.1 HuDiff-Nb在人源化纳米抗体中的表现

为了评估HuDiff-Nb在人源化纳米抗体中的有效性，本文对其在Nano300和Nanobert18数据集上的表现进行了测试。结果显示，HuDiff-Nb在人源化后纳米抗体的humanness得分显著提高，同时保留了较高的VHH原生性。

在Nano300数据集中，HuDiff-Nb生成的人源化纳米抗体在T20评分和VH得分上均表现优异，且与实验人源化结果高度相似。这表明HuDiff-Nb能够有效地在人源化过程中保持纳米抗体的原生特性。

3.2.2 SARS-CoV-2 RBD目标纳米抗体3-2A2-4的人源化实验

针对SARS-CoV-2 RBD的纳米抗体3-2A2-4，本文通过HuDiff-Nb生成了多个人源化变体并进行实验验证。3-2A2-4是一种骆驼类纳米抗体，能够与SARS-CoV-2的RBD结合，其结合能力在体外实验中得到了验证。

实验结果显示，部分人源化纳米抗体的结合亲和力甚至优于原始纳米抗体（2.52 nM vs 5.47 nM），验证了HuDiff-Nb在人源化纳米抗体中的有效性。通过BLI实验分析发现，hNb1.1在人源化后表现出更高的结合亲和力，这表明HuDiff-Nb不仅可以保持结合能力，还可以在某些情况下显著提高其结合强度。

4. 讨论

4.1 HuDiff的优势与创新点

HuDiff方法在抗体和纳米抗体的人源化中展现了显著的优势。与传统方法相比，HuDiff在不需要人类模板的情况下，基于CDR序列从头生成FR序列，极大地提高了人源化过程的多样性。此外，HuDiff的人源化结果不仅在humanness上显著提高，还在结合实验中表现出色，进一步验证了其有效性。

HuDiff的另一个重要创新点在于其自适应的训练流程。通过分阶段的预训练和微调，HuDiff能够从大规模人类抗体数据中学习到通用特征，并通过物种特异性数据进行适应性调整，从而实现针对不同目标的高效人源化。

4.2 未来的改进方向

未来的研究可以进一步结合结构信息来优化HuDiff的人源化性能。在目前的工作中，HuDiff主要基于序列信息进行预测，而结合三维结构信息可能有助于更好地保持抗体的功能构象。此外，可以考虑将HuDiff应用于更多种类的抗体和纳米抗体，探索其在不同疾病治疗中的潜力。尤其是针对复杂疾病如癌症和自身免疫疾病的多靶点抗体，HuDiff有可能在人源化过程中进一步优化其特异性和亲和力。

5. 结论

本文提出了一种基于自回归扩散模型的人源化抗体和纳米抗体设计方法HuDiff，并通过多组实验验证了其有效性和实用性。HuDiff在人源化抗体和纳米抗体方面表现出色，具有显著的应用潜力。期待未来HuDiff能够在抗体药物开发中发挥更大的作用，推动生物医药领域的发展。

HuDiff的实验结果显示，其生成的抗体和纳米抗体在人源化程度和结合亲和力方面均达到了甚至超过了现有的实验人源化水平。通过结合序列和扩散模型的优势，HuDiff为抗体工程提供了一种新的思路和方法。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述