【教程】YOLOv5模型转化-Android端部署_yolov5 android

这里写目录标题

• • 前言
    • 转化方法
    • • 官方的转化方法
        • 合作者的转化方法
    • 量化
    • 部署
    • • 部署流程
    • 效果展示

前言

最近做毕设使用到yolov5，该模型为ultralytics公司的一个开源产品，由Glenn大佬实现，有很多合作的开发者参与了该项目，开发迭代速度非常快，三天两头就有更新。为了实现一个完整的毕业设计流程，就需要实现YOLOv5模型的训练、验证到最终的落地，也就是部署。

训练相对简单，只需要跟着官方教程即可，根据特定数据集进行预处理并训练👉👉链接

训练并验证后则需要考虑部署，具体部署方案有：

• ONNX：该模型格式可以在不同的平台所需的模型格式之间进行转化，也是我最初的方案，但转过去转过来都转不到Android能用的格式
• CoreML：该格式的模型可以部署到Apple上，那至少需要有苹果两件套（iphone和Mac），前者作为部署端，后者用于开发苹果应用程序。可是我没有Mac
• TFLite：Google的轻量级推理库，这种TensorFLow Lite格式的模型文件可以部署到基于Android的移动端上，这也是最理想的一种方式

转化方法

官方的转化方法

官方的转化代码的转化方式为PyTorch > ONNX > CoreML > TFLite，最后从原始训练得到的pt模型文件转化为mlmodel、onnx和torchscript.pt

不过要想从这三种模型进行二次转化为**.tflite**可不容易，博主尝试过很多种方法，但最终无果，也不是走投无路，就是转累了。。。

合作者的转化方法

那时我开始思考，官方明明白白地写了是PyTorch > ONNX > CoreML > TFLite，为什么最后没有.tflite模型文件呢，难不成上当了？其实没有，大佬zldrobit已经写出了转化代码，其pull request👉链接，该仓库的代码根据YOLOv5的发展也在改进，唯一不同的是增加了tflite转化的代码

博主在colab平台进行如下操作，具体使用方法如下：

• 在👉链接处将代码库下载下来

!git clone https://github.com/zldrobit/yolov5.git
%cd yolov5
!git checkout tf-android # 或者tf-only-export

• 安装所需要的库

!pip install -r requirements.txt
!pip install tensorflow==2.4.0

• 运行yolov5/models路径下的tf.py代码即可

!python models/tf.py --weights weights/yolov5s.pt --cfg models/yolov5s.yaml --img 320

这样就能得到fp16的.tflite模型，若需要Int8的，则用如下命令

!python models/tf.py --weight weights/yolov5s.pt --cfg models/yolov5s.yaml --img 320 --tfl-int8 --source 你的数据集路径 --ncalib 图像数量

转化为int8的需要数据集来进行验证，所以需要添加自己数据集的路径，图像数量为你所用的用于验证的图像数。

转化完成后有如下结果：

量化

从转化的方式可以看出，其实不仅仅是转化了，还进行了量化，fp16和int8都是量化的结果。其实就是将模型文件中存储的权重参数从Float32转化为fp16或Int8类型，减少计算压力；.pt文件格式转化为.tflite格式，以便Android应用调用。

现在能在网上找到很多很多的学习资源，有免费的也有收费的，当我拿到1套比较全的学习资源之前，我并没着急去看第1节，我而是去审视这套资源是否值得学习，有时候也会去问一些学长的意见，如果可以之后，我会对这套学习资源做1个学习计划，我的学习计划主要包括规划图和学习进度表。

分享给大家这份我薅到的免费视频资料，质量还不错，大家可以跟着学习

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友，可以戳这里无偿获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！