Transformer相关
文章平均质量分 90
白日梦想家April_Liu
要做一个优秀的美女哦!
展开
-
Transformer综述2——《Transformers in Vision A Survey》
Abstract Transformer模型:自注意力机制和自我监督 自监督用于大规模未标注数据的预训练 主流识别任务:图像分类 目标检测 行为识别 分割原创 2021-09-04 20:45:36 · 610 阅读 · 0 评论 -
Transformer综述1——《A Survey on Visual Transformer》
《A Survey on Visual Transformer》 背景介绍 多层感知和全连接层是经典的神经网络,有多线性层和非线性激活函数。 卷积神经网络引入卷积层和池化层,用于图片的尺度不变 递归神经网络利用递归细胞来处理顺序数据或时间序列数据 Transformer利用注意力机制,提取内在特征 ...原创 2021-09-03 21:42:36 · 840 阅读 · 0 评论