ESM2蛋白预训练模型 蛋白质、氨基酸向量表示

已于 2024-12-05 11:28:59 修改
阅读量9.3k 收藏 46
点赞数 13
分类专栏： CADD/AIDD 文章标签： 深度学习 人工智能 蛋白向量
于 2022-11-25 14:10:26 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_42357472/article/details/128036976
版权
本文介绍了如何利用transformers版本的ESM2模型进行蛋白质氨基酸序列的向量表示，包括从Fasta格式的输入到模型的下载与应用，以及离线运行代码的详细步骤。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

参考：
https://github.com/facebookresearch/esm
https://huggingface.co/facebook/esm2_t33_650M_UR50D
https://esmatlas.com/resources?action=fold

硬件运行加速版：
https://github.com/pengzhangzhi/faesm

新版本：
ESM C、ESM 3
https://github.com/evolutionaryscale/esm
在这里插入图片描述

在这里插入图片描述

方法1、transformers版本使用

直接输入Fasta 氨基酸序列格式就行；第一次下载esm2_t33_650M_UR50D模型有点慢,有2个多G大


from transformers import BertTokenizer, AutoTokenizer,BertModel, AutoModel 

tokenizer_ = AutoTokenizer.from_
了解本专栏 订阅专栏 解锁全文 超级会员免费看
AI4S - 开源 OpenFold: 蛋白质结构预测的 HHSearch 搜索 Template 教程(12)
AGI
09-14 4488
HHsearch 是基于 HMM-HMM 比较的算法实现的搜索工具，可以用来检测蛋白质的远缘同源性，生成高质量的序列比对，用于同源建模和功能预测。优点是可以利用蛋白质序列的共进化信息，提高搜索的灵敏度和准确度。还可以使用多种结构域数据库进行搜索，包括PDB、SCOP、Pfam等，增加了搜索的覆盖度和多样性。
RS Meet DL(66)-[阿里]基于多任务学习的CVR预估模型ESM2
abcdefg90876的博客
10-19 646
今天介绍的文章名称是《Conversion Rate Prediction via Post-Click Behaviour Modeling》在本系列的第十九篇文章中，...
ProtTrans:ProtTrans提供了最先进的蛋白质预训练语言模型。 使用Transformers模型，对ProtTrans进行了来自Summit的数千个GPU和数百个Google TPU的培训
04-13
ProtTrans 提供了最先进的蛋白质预训练模型。 ProtTrans接受了来自Summit的数千个GPU和数百个使用各种Transformers模型的Google TPU的培训。 看看我们的论文来以获取有关我们工作的更多信息。 该存储库将定期更新以新的蛋白质预训练模型作为支持生物信息学界的一部分，特别是通过我们的SASAR 项目Covid-19研究。 目录 :brain: 预言 :alembic: 蛋白质序列产生 :face_with_monocle: 可视化 :chart_increasing: 基准 :bar_chart: 预期成绩 :dna: 二级结构预测（第3季度） :dna: 二级结构预测（Q8） :dna: 膜结合与水溶性（Q2） :dna: 亚细胞定位（Q10） :red_heart: 社区和贡献 :closed_mailbox_with_raised_flag: 有一个问题？ :handshake: 发现了错误？ :check_mark_button: 要求 :person_in_tuxedo: 团队 :mon
ESM：用于蛋白质序列建模的预训练模型
gitblog_00040的博客
08-08 1104
ESM：用于蛋白质序列建模的预训练模型 项目地址:https://gitcode.com/gh_mirrors/esm/esm 项目介绍 ESM（Evoformer Sequence Model） 是由Facebook Research开发的一个深度学习框架，专注于蛋白质序列的表示学习。该项目引入了一种称为 Evoformer 的新架构，该架构通过进化启发的层来捕获蛋白质序列的复杂结构和功能信息。...
生物序列的预训练模型ESM-2介绍
最新发布
qq_27390023的博客
02-24 1437
ESM-2 (Evolutionary Scale Modeling v2) 是 Meta AI 开发的蛋白质序列预训练模型，使用了类似于自然语言处理中的 Transformer 架构，对氨基酸序列进行深度学习，以捕获其结构、功能和进化特征。它是 ESM 系列的升级版，具有更强的表达能力和更高的推理效率。
ESMFold: AlphaFold2之后蛋白质结构预测的新突破
weixin_4528312的博客
07-22 6792
刚刚，Meta AI蛋白质团队负责人Alexander Rives在推特上宣布最新成果ESMFold，可从蛋白质的单序列中进行高精度端到端原子水平结构预测，推理速度超过AlphaFold。
ESMM模型与ESM2模型总结
rotation博客
10-20 6436
ESSM模型 2018 阿里妈妈 SIGIR 原文链接：Entire Space Multi-Task Model: An Effective Approach for Estimating Post-Click Conversion Rate 该论文基于Multi-Task Learning 的思路，提出一种新的CVR预估模型，有效解决了真实场景中CVR预估面临的数据稀疏以及样本选择偏差这两个关键问题。 Sample Selection Bias (SSB)：转化是在点击之后才“有可能”发生的动作，传统
[阿里]基于多任务学习的CVR预估模型ESM2
hellozhxy的博客
11-04 3749
今天介绍的文章名称是《Conversion Rate Prediction via Post-Click Behaviour Modeling》 论文下载地址为：https://arxiv.org/abs/1910.07099 在本系列的第十九篇文章中，我们已经介绍过一种基于多任务学习的CVR预估模型ESMM，同样是阿里发表的论文。本文可以看作是ESMM的升级版，一起来学习一下吧。 ...
计算生物学习——Code_ESM-2输出蛋白质的特征表示_解决无法用代码线上加载模型（06.20-06.21）
weixin_43213559的博客
06-21 5094
今天，根据大佬loong_XL指点去查看了源头代码，发现问题--解决问题
PLUS | 包含蛋白质特异性的新型预训练方案
DrugAI
08-10 1305
今天给大家介绍来自首尔国立大学Sungroh Yoon课题组在arXiv上发表的一篇文章。作者指出当前很多方法采用半监督学习来进行蛋白质序列建模，其中的预训练方法主要依赖于语言建模任务，并且常常表现的性能有限。为了更好地捕获未标记蛋白序列中包含的信息，必须进行补充蛋白特异性的预训练任务。针对以上问题，作者提出了一种称为PLUS的新型预训练方案。PLUS包括掩码语言建模（MLM）和补充蛋白质特异性的预训练任务，即相同的家族预测，可用于预训练各种模型架构。 1 介绍 由氨基酸的线性链组成的蛋白质...
ESM蛋白质语言模型学习笔记一
weixin_43950953的博客
04-23 3085
蛋白质-蛋白质相互作用位点预测的时需要的是representations。加载模型后使用示例的data，模型的输出结果results包含以下内容。include里面自己可以设置保存的嵌入，以下是命令行的使用文档。在服务器上，安装使用。
ProteinLM：预训练蛋白质语言模型
07-28
- *1* [ESM2蛋白预训练模型 蛋白质、氨基酸向量表示](https://blog.csdn.net/weixin_42357472/article/details/128036976)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":...
使用ESMFold提取蛋白质embedding的python实现
qq_49370210的博客
03-04 2302
ESM Fold 利用了大规模的蛋白质序列数据和进化信息，通过深度神经网络模型进行训练，以预测蛋白质的二级结构、残基接触图和三维结构。该模型的预测能力取决于其训练数据的质量和数量，以及模型的架构和参数设置。示例的维度为（2，19840），因为我们将每个样本中的所有位置的 embedding 向量连接起来，得到每个样本的一个长向量表示。因此，这个数据张量的形状 (2, 62, 320) 提供了关于两个样本中蛋白质序列的信息，以及每个序列中每个位置的嵌入表示。确保序列的格式符合模型的要求。
如何用esm2运行蛋白质序列？
01-31
访问[Meta AI 的 GitHub 页面](https://github.com/facebookresearch/esm) 并克隆仓库，里面包含了官方提供的示例代码和预训练模型链接。 ```bash git clone https://github.com/facebookresearch/esm.git cd esm `...
悟道 · 文溯详解：蛋白质序列的大规模预训练
BAAIBeijing的博客
04-01 2264
整理：马瑞军校对：裘捷中智源导读：3月20日，在「智源大规模预训练模型交流论坛」，由智源研究院副院长、清华大学教授唐杰带头，发布了「悟道1.0」四大模块的进展工作，分别包括悟道·文源——以...
ICLR2023 | 基于几何结构预训练的蛋白质表示学习
DrugAI
05-04 1710
为了填补这一差距，最近的研究利用大量未标记的蛋白质序列数据来学习蛋白质的有效表示，然而这些方法没有利用可用的蛋白质结构信息，而蛋白质结构已被证明是蛋白质功能的决定因素。通过多个基准任务的全面实验验证，文章中的模型在从头开始训练时效果优于以前的编码器，并且在使用更少的数据进行预训练的情况下实现堪比甚至超越最先进的基线方法的效果。需要注意的是，作者的模型是在不到100万个结构的数据集上进行预训练的，而所有基于序列的预训练基线都是在百万或十亿级别的序列数据库上进行预训练的。这证明了作者预训练策略的有效性。
ESM2和ESM fold：语言模型进行原子级结构预测
白景屹的博客
02-11 1502
ESM2和ESMFold
评论 24
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

loong_XL

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值