- 博客(13)
- 收藏
- 关注
RSS订阅转载 基于Transformer和注意力的可解释核苷酸语言模型，用于pegRNA优化设计
近日，来自重庆医科大学、西北农林科技大学、云南民族大学、浙江大学医学院和中国科学院数学与系统科学研究院生物信息学中心（Bioinformatics Center of AMMS）的多学科多机构研究团队开发了优化的先导编辑设计（Optimized Prime Editing Design，OPED），这是一种可解释的核苷酸语言模型，利用迁移学习来提高其准确性和通用性，用于预测 pegRNA 的效率和设计优化。值得注意的是，具有高 OPED 分数的 pegRNA 始终显示出显著提高的编辑效率。
2023-11-01 11:17:11
88
1
原创 Transformer模型详解
Transformer由论文《Attention is All You Need》提出，现在是谷歌云TPU推荐的参考模型。论文相关的Tensorflow的代码可以从GitHub获取，其作为Tensor2Tensor包的一部分。哈佛的NLP团队也实现了一个基于PyTorch的版本，并注释该论文。在本文中，我们将试图把模型简化一点，并逐一介绍里面的核心概念，希望让普通读者也能轻易理解。Transformer 与 RNN 不同，可以比较好地并行训练。
2023-08-08 16:15:30
175
1
原创 深度学习如何入门？
建议不要直接去看网上推荐的那些动辄几十个小时、一堆作业的课，听课是一种非常低效而又难以坚持的学习方式。学习任何东西，都不要把听课当成最主要的学习方式，顶多可以作为辅助。我最近看到这两本书有一种相见恨晚之意。两本书都不难，其中第一本比第二本更简单些，建议跟着这两本书，一步一步把里面的代码多写几遍，把每一步都搞透，深度学习也就基本入门了。可以关注公众号【咕泡AI】回复：226，免费领电子书。我相信大多数初学者在大一大二就已经学过高等数学、那就直接从深度学习入门开始。和概率论这三门课了，所以。
2023-07-25 10:42:12
88
原创 商汤联合团队获CVPR最佳论文，推出感知决策一体化自动驾驶通用大模型
6月18日-22日,全球计算机视觉盛会CVPR 2023(Computer Vision and Pattern Recognition)在加拿大温哥华举行。本届CVPR论文投稿总量达9155篇,最终共有2369篇论文被接收。最佳论文候选为12篇,接收率仅为0.13%。商汤两篇论文登上最佳论文候选名单(Award Candidate),其中自动驾驶研究论文《Planning-oriented Autonomous Driving》(以路径规划为导向的自动驾驶)斩获本届CVPR最佳论文奖(Best Pap
2023-06-26 15:54:28
165
1
原创 随着GPT、SAM等大模型的出现，计算机视觉领域未来可能向怎样的方向发展？
已经在许多领域得到了广泛的应用，并且随着技术的不断发展，其未来的发展趋势也变得越来越明显。以下是计算机视觉发展的一些趋势：
2023-06-17 17:54:46
209
1
原创 什么是扩散模型（Diffusion Models），为什么它们是图像生成的一大进步？
一种最近提出的方法，利用GANs的感知能力、扩散模型的细节保持能力和transformer的语义能力，将三者合并在一起。也许过去十年在计算机视觉和机器学习方面的突破是GANs(生成式对抗网络)的发明——这种方法引入了超越数据中已经存在的内容的可能性，是一个全新领域的敲门砖，现在称为生成式建模。transformer的泛化能力和扩散模型的细节保持能力的结合提供了两个世界的优点，并提供了一种生成细粒度的高度详细图像的能力，同时保留图像中的语义结构。生成的图像在语义和视觉上与作为参考的图像相似。
2023-03-23 15:28:47
1211
原创 GPT系列学习笔记：GPT、GPT2、GPT3GPT系列学习笔记：GPT、GPT2、GPT3
GPT、GPT2、GPT3的共同点是其结构都基于Transformer的Decoder层。区别在于：模型一个比一个大，数据量一个比一个多。GPT为常规语言模型GPT2卖点指向zero-shotGPT3卖点指向Few-shot。
2023-03-21 16:40:27
1293
原创 什么是深度学习？从图灵测试谈到ChatGPT(文末送书)
机器有智能吗？英国数学家艾伦·图灵(Alan Turing)在1950年发问，并提出图灵测试，目的是判断一台机器是否具有人类水平的智能。图灵测试的基本思路是：一个人与一台机器在隔开的房间里进行对话，另一个人需要根据对话内容来判断哪个是机器，哪个是人。如果这个人无法区分出哪个是机器，哪个是人，则可以认为这个机器具有人类智能。
2023-03-16 16:29:32
3405
原创 训练大模型的九大深度学习库，哪一个最适合你？
训练大型深度学习模型需要极大的内存，才能储存中间层的激活函数输出和权重等。一些模型只能在单个GPU上训练，训练时须将批大小（batch size）设置得极小；还有一些模型则太大，单个GPU放不下。这些问题会导致在某些情况下模型训练效率极低，甚至无法训练。训练大型深度学习模型主要有两大方法：数据并行、模型并行。当单个GPU的内存可以完整容纳整个模型时，这是可实现数据并行的最简单的情况。但此时，模型训练可用的batch size就变得较小，增加了训练难度。
2023-03-15 15:40:55
960
原创 OpenCV怎么安装？OpenCV安装路径_图像处理只能使用OpenCV吗？
opencv_contrib库，也缺少一些性能选项。为了使用opencv_contrib库里提供的众多功能，同时得到性能更高的OpenCV库，也为了对OpenCV进行精简和定制，都需要自己动手对OpenCV进行编译。这里以Windows 10环境下，使用Visual Studio 2017在x64平台下编译OpenCV4.2.0为例来加以说明。
2022-12-09 17:03:21
131
原创 必读论文 | 卷积神经网络百篇经典论文推荐
卷积神经网络百篇经典论文研读卷积神经网络的经典论文，对于学习和研究卷积神经网络必不可缺。根据相关算法，AMiner 从人工智能领域国际顶会/期刊中提取出“卷积神经网络”相关关键词，筛选并推荐了 100 篇经典必读论文。由于网上资料太乱太杂，整理好放在网盘内，需要的可以点击领取；
2022-12-09 17:01:01
540
原创 计算机视觉是什么_计算机视觉算法与应用怎么样_计算机视觉目标检测可以用在哪里?_计算机视觉
计算机视觉是指用摄影机和电脑代替人眼对目标进行识别、跟踪和测量等机器视觉，并进一步做图形处理，使电脑处理成为更适合人眼观察或传送给仪器检测的图像。它的主要任务是让计算机理解图片或者视频中的内容，就像人类和许多其他生物每天所做的那样。那我们在OpenCV阶段，主要学习图像处理，而图像处理主要目的是对图像的处理，比如平滑，缩放等，想、从而为其他任务(比如“计算机视觉”)做好前期工作。
2022-11-08 15:29:09
1483
原创 自然语言处理技术属于人工智能吗？怎么快速入门自然语言处理？自然语言处理有什么用？
作为人工智能下的一个大分支，NLP涵盖的内容有很多，专业课程包括机器学习，数值分析，线性代数，高数，矩阵论等。主要训练的是代码工程能力和解决问题的算法分析能力。这样庞大的知识体系，想要系统的学习，需要花费的时间是很多的，所以对于这一领域，我不太推荐通过自学，尤其是独自看书学习的方式。
2022-11-07 15:19:17
966
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人