【论文阅读】ZymCTRL: a conditional language model for the controllable generation of artificial enzymes

已于 2024-08-26 21:55:43 修改
阅读量377 收藏 6
点赞数 12
文章标签： 论文阅读 语言模型 人工智能
于 2024-08-26 16:55:53 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/gyx1549624673/article/details/141563770
版权

论文阅读：ZymCTRL: a conditional language model for the controllable generation of artificial enzymes

1、研究背景

  • 研究问题：这篇文章旨在解决如何设计具有特定功能的人工酶的问题。酶因其复杂的活性位点能够加速化学转化而具有吸引力，且作为可生物降解的纳米材料，具有作为可持续大规模工业催化剂的巨大潜力。
  • 研究难点：尽管在酶设计领域取得了显著进展，但现有酶的催化速率通常低于其自然对应物，且设计过程中对序列特征的精确控制非常困难。
  • 相关工作：近年来，人工智能在蛋白质研究领域的应用取得了显著进展，特别是在结构预测和蛋白质设计方面。Transformer架构在自然语言处理领域的成功应用也启发了其在蛋白质设计中的应用。

2、研究方法

这篇论文提出了ZymCTRL，一种条件语言模型，用于根据用户提示生成特定类别的酶。具体来说，

  • 数据集准备：使用BRENDA数据库，该数据库包含3700万条酶序列，并根据其酶类别（EC）进行分类。为了确保模型的泛化能力，去除了具有多个标签的序列，最终得到3600万条序列。
  • 模型训练：ZymCTRL采用Transformer架构的解码器模块进行训练，目标是生成酶序列。模型通过最小化负对数似然损失来学习EC控制标签与后续氨基酸之间的关系。公式如下：
最低0.47元/天 解锁文章
GUANYX~
关注
  • 12
    点赞
  • 踩
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
【扩散模型/图像匹配/图像拼接】论文精读：DiffMatch: Diffusion Model for Dense Matching
畅游计算机视觉的海洋
01-30 1万+
建立成对图像之间的密集对应关系的目标由两个术语组成：数据项和先验项。虽然传统的技术侧重于定义难以表述的手工设计的先验项，但最近的方法侧重于使用深度神经网络学习数据项，而无需显式建模先验，假设模型本身有能力从大规模数据集中学习最优先验。然而，性能改进很明显，它们通常无法解决匹配的固有歧义，例如无纹理区域、重复模式和大位移。为了解决这个问题，我们提出了 DiffMatch，这是一个新颖的基于条件扩散的框架，旨在显式建模数据和先验术语。与以前的方法不同，这是通过利用条件去噪扩散模型来实现的。DiffMatch由两
深入理解Conditional Diffusion Models：解读《On Conditioning the Input Noise for Controlled Image Generation》
沉迷单车的追风少年
05-22 6871
​ 我之前写了一篇博客《条件DDPM：Diffusion model的第三个巅峰之作》梳理了conditional diffusion models的发展脉络，总结了现在常用的条件使用方法。最近逛arxiv看到一篇最新的论文主打conditional diffusion models，和读者一起读一下这篇论文《On Conditioning the Input Noise for Controlled Image Generation with Diffusion Models》...
【论文笔记】CTRL: A conditional Transformer Language Model For Controllable Generation
记录学习^_^，欢迎交流~
11-10 1317
CTRL：一种用于受控文本生成的条件Transformer语言模型
论文阅读：CTRL: A CONDITIONAL TRANSFORMER LANGUAGE MODEL FOR CONTROLLABLE GENERATION
咕噜咕噜
01-10 1324
CcGAN: Continuous Conditional Generative Adversarial Networks for Image Generation论文解读
zzxxxaa1的博客
10-24 2645
论文arxiv地址：https://arxiv.org/abs/2011.07466 论文源码：https://github.com/UBCDingXin/improved_CcGAN 前言 CcGAN发表在2021年的ICLR上，它是一种cGAN，但和其他cGAN的不同之处在于，它可以针对回归标签(regression labels)生成高质量的图片。 回归标签和离散标签(通常是类别)对应，是指在一定区间内有无限取值的连续型标签，如角度，温度等。 想要解决的问题 以往的cGAN在将..
图像融合论文阅读：A Deep Learning Framework for Infrared and Visible Image Fusion Without Strict Registration
图像强的博客
01-04 4636
以往的融合算法需要在配准的图像上进行，为了解决这个问题，作者提出了一种融合不需要严格配准可见光和红外图像的算法，该算法利用CNN和Transformer分层交互嵌入模块（CNN-Transformer Hierarchical Interactive Embedding ， CTHIE）提取特征，设计了一个动态聚合特征表示（Dynamic Re-aggregation Feature Representation ， DRFR）模块用来配准。
CoCoOp: Conditional Prompt Learning for Vision-Language Models
LuvLive的博客
05-18 2351
Conditional Prompt Learning for Vision-Language Models
ContraGAN: Contrastive Learning for Conditional Image Generation-阅读札记
qq_43367558的博客
01-30 2552
ContraGAN: Contrastive Learning for Conditional Image Generation-阅读札记
LLMs：《BLOOM: A 176B-Parameter Open-Access Multilingual Language Model》翻译与解读
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
12-31 4429
​ LLMs：《BLOOM: A 176B-Parameter Open-Access Multilingual Language Model》翻译与解读 目录 《BLOOM: A 176B-Parameter Open-Access Multilingual Language Model》翻译与解读 Abstract 1、Introduction介绍 2、Background背景 3、BLOOM
可控文本生成系列-A Survey of Controllable Text Generation using Transformer-based Pre-trained
yaohaishen的专栏
07-20 7208
ControlableTextGeneration，可控制的文本生成，就是能够在传统的文本生成的基础上，增加对生成文本一些属性、风格、关键信息等等的控制，从而使得生成的文本符合我们的某种预期。如果给一个明确的定义的话，文中引用了另一篇更早的综述的定义论文中给出了两个简单的例子第一个例子就是给定一个故事线，要求模型按照这样的思路去生成。第二个例子是关于传统人机对话中如果机器生成文本时不受控制可能带来的问题，比如会给出有害的建议，甚至说脏话，这个时候就需要我们在模型生成的时候加以控制。.............
a closed form solution of the BL model with conditional value at risk.pdf
09-05
论文《A closed-form solution of the Black–Litterman model with conditional value at risk》探讨了在BL模型中使用CVaR作为风险度量的优化问题。作者使用了多变量椭圆分布代替多变量正态分布来模拟金融资产回报...
Autoregressive Conditional Duration_ A New Model for Irregularly
01-18
Autoregressive Conditional Duration_ A New Model for Irregularly Spaced Transaction Data
Conditional Cramer-Rao Lower Bounds for DOA Estimation and Array Calibration
02-11
This letter aims at deriving the Cramer-Rao lower bounds (CRLB) of the direction-of-arrival (DOA) estimation and array calibration precisions in the case of determined and unknown signals based on the...
Latent Representation Learning For Artificial Bandwidth Extension Using A Conditional Variational Au…
01-20
【人工带宽扩展(Artificial Bandwidth Extension, ABE)】 人工带宽扩展是一种技术，主要用于提升窄带语音信号的质量，使其接近于宽带信号的效果。在窄带设备与宽带设备交互时，由于带宽限制，语音质量可能下降。ABE...
Spring 4.0新功能：@Conditional注解详细介绍
08-29
在Spring 4.0中，`@Conditional`注解是一个重要的新特性，它极大地增强了Spring框架的灵活性和可配置性。这个注解允许我们在运行时根据特定条件决定是否注册一个bean。这使得开发者可以根据环境、配置或其他运行时...
【论文阅读】基于 Voronoi 的无向点集变分重建
WoooChi的博客
08-25 716
Voronoi-based Variational Reconstruction of Unoriented Point Sets 部分翻译
【论文阅读04】端到端目标检测:DETR模型
weixin_45037690的博客
08-23 687
2、提出一种全新的基于集合的损失函数：通过二分图匹配的方法强制模型输出一组独一无二的预测框，每个物体只会产生一个预测框，这样就将目标检测问题直接转换为集合预测的问题，所以才不用nms，达到端到端的效果；4、loss ：二分图匹配，计算100个预测的框和2个GT框的matching loss，决定100个预测框哪两个是独一无二对应到红黄色的GT框，匹配的框去算目标检测的loss。损失矩阵的值应该放些什么？基于集合的目标函数怎么做，作者如何通过二分图匹配把预测的框和GT框连接在一起，算得目标函数。
【论文阅读】具有拓扑保证的Marching Cubes案例的高效实现
WoooChi的博客
08-26 434
Efficient Implementation of Marching Cubes' Cases with Topological Guarantees 部分翻译
【论文阅读】YOLOv10: Real-Time End-to-End Object Detection
最新发布
qq_42591591的博客
08-26 653
在过去的几年里，由于在计算成本和检测性能之间取得了有效的平衡，YOLOs已经成为实时目标检测领域的主导范式。研究人员已经对yolo的架构设计、优化目标、数据增强策略等进行了探索，并取得了显著进展。然而，对非最大抑制(NMS)的后处理依赖阻碍了yolo的端到端部署，并对推理延迟产生不利影响。此外，YOLOs中各部件的设计缺乏全面彻底的检查，导致计算冗余明显，限制了模型的能力。它提供了次优的效率，以及相当大的性能改进潜力。在这项工作中，我们的目标是从后处理和模型架构两个方面进一步推进YOLOs的性能效率边界。
std::conditional
12-24
`std::conditional`是C++标准库中的一个模板类，用于根据条件选择不同的类型。它接受一个布尔值作为模板参数，如果该布尔值为true，则选择第一个类型作为结果类型，否则选择第二个类型作为结果类型。 以下是`std::conditional`的使用示例： ```cpp #include <iostream> #include <type_traits> int main() { const int len = 4; typedef std::conditional<sizeof(short)==len, short, std::conditional<sizeof(int)==len, int, std::conditional<sizeof(long)==len, long, std::conditional<sizeof(long long)==len, long long, void>::type>::type>::type int_my; std::cout << sizeof(int_my) << '\n'; // 输出：4 return 0; } ``` 上面的代码根据不同的字节数选择不同的整型类型，并输出所选择的类型的字节数。 另一个稍微复杂一些的例子是： ```cpp #include <iostream> #include <type_traits> constexpr int sign = 10; void TestCond() { std::conditional<(sign > 100), double, std::conditional<(sign > 80), float, std::conditional<(sign > 40), int, char>::type>::type>::type var; std::cout << "cur type is:" << typeid(decltype(var)).name() << std::endl; } int main() { TestCond(); // 输出：cur type is: int return 0; } ``` 上面的代码根据不同的条件选择不同的类型，并输出所选择的类型的名称。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值