repvit_pytorch图像分类算法模型

最新推荐文章于 2024-07-08 19:18:51 发布

技术瘾君子1573

最新推荐文章于 2024-07-08 19:18:51 发布

阅读量326

点赞数 9

分类专栏：人工智能&深度学习&机器学习文章标签： pytorch 分类人工智能图像分类

本文链接：https://blog.csdn.net/qq_27815483/article/details/140014045

版权

人工智能&深度学习&机器学习专栏收录该内容

79 篇文章 1 订阅

订阅专栏

RepViT

RepViT在iPhone 12上以1ms的延迟实现了超过80%的top-1准确率，为当前多个SOTA实例分割算法的backbone。

论文

RepViT: Revisiting Mobile CNN From ViT Perspective

https://arxiv.org/pdf/2307.09283

模型结构

RepViT以MobileNetV3-L为base进行算法优化，从一个标准的轻量级CNN开始，结合轻量级vit的架构设计，使得既具备CNN小计算量又具备vit架构的优势。

算法原理

RepViT与其它图像分类算法一样，将图片数据送入模型后，依次通过预处理、特征提取，然后经过全连接层预测出图片类别。

环境配置

mv repvit_pytorch RepViT # 去框架名后缀

Docker（方法一）

docker pull image.sourcefind.cn:5000/dcu/admin/base/pytorch:2.1.0-centos7.6-dtk24.04-py310
# <your IMAGE ID>为以上拉取的docker的镜像ID替换，本镜像为：c85ed27005f2
docker run -it --shm-size=32G -v $PWD/RepViT:/home/RepViT -v /opt/hyhal:/opt/hyhal:ro --privileged=true --device=/dev/kfd --device=/dev/dri/ --group-add video --name repvit <your IMAGE ID> bash
cd /home/RepViT
pip install -r requirements.txt # requirements.txt

Dockerfile（方法二）

cd RepViT/docker
docker build --no-cache -t repvit:latest .
docker run --shm-size=32G --name repvit -v /opt/hyhal:/opt/hyhal:ro --privileged=true --device=/dev/kfd --device=/dev/dri/ --group-add video -v $PWD/../../RepViT:/home/RepViT -it repvit bash
# 若遇到Dockerfile启动的方式安装环境需要长时间等待，可注释掉里面的pip安装，启动容器后再安装python库：pip install -r requirements.txt。

Anaconda（方法三）

1、关于本项目DCU显卡所需的特殊深度学习库可从光合开发者社区下载安装：

https://developer.hpccube.com/tool/

DTK驱动:dtk24.04
python:python3.10
torch:2.1.0
torchvision:0.16.0
onnxruntime:1.15.0

Tips：以上dtk驱动、python、torch等DCU相关工具版本需要严格一一对应。

2、其它非特殊库参照requirements.txt安装

pip install -r requirements.txt # requirements.txt

数据集

cifar100

http://www.cs.toronto.edu/~kriz/cifar-100-python.tar.gz

下载解压即可使用，文件大小约161Mb，项目中已包含cifar100，训练数据目录结构如下：

cifar100/cifar-100-python
            ├── train
            ├── test
            ├── meta
            └── file.txt~

训练

单机多卡

# 以数据集CIFAR为基础进行算法效果提升
# 关闭wandb用wandb disabled
python -m torch.distributed.launch --nproc_per_node=4 --master_port 12356 --use_env main.py --model repvit_m0_9 --data-path ./cifar100 --data-set CIFAR --epochs 300 --dist-eval --distillation-type none

更多资料可参考源项目的README_origin