昇思25天学习打卡营第27天|munger85

Vision Transformer图像分类

Vit是最新的用了transformer架构的图像模型,在很多比赛都获得了大奖,是非常优秀的架构。而且据说cnn其实只是vit的一个子集,cnn的卷积其实就是vit在很小的范围做了注意力机制。非常有意思

整个架构就好像这样

在这里插入图片描述
在这里插入图片描述
图片准备好,每个图也有标签,做些预处理,增加模型的泛化能力
transformer是用来处理一串文字序列到另外一串,其实图片也可以搞成一个个小的子图,每个子图就好像一个词,然后大图是一句话,这不就是用transformer做图片模型了。我是这样理解
整个网络就看
在这里插入图片描述
在这里插入图片描述
最后分类为num_classes

在这里插入图片描述
在这里插入图片描述训练时候的分类是这样的id,要转成人可读的字符
metafile = os.path.join(data_path, “ILSVRC2012_devkit_t12/data/meta.mat”)
meta = io.loadmat(metafile, squeeze_me=True)[‘synsets’]
有这个matlab的文件要这样打开。把index映射到单词

训练完了区预测
在这里插入图片描述
请添加图片描述

  • 7
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值