1.介绍
(1).基于SpringBoot+Docker+Cuda+Cudnn+Pythorch+Onnx+Tensorrt+Yolov8+ffmpeg+zlmediakit 的AI算法中台系统,本系统主要实现JAVA调用Python脚本的方式,实现在GPU(Nvidia Tesla T4)上进行yolov8的加速推理运算。
(2).项目可实现人、车、火灾烟雾、河道漂浮物、道路裂痕等视频的实时识别,并将识别结果通过ffmpeg推流到zlmediakit流媒体服务器,使得在web页面上可以同时查看原始视频和实时计算视频。
(3).项目每隔1分钟将推理结果信息和对应的图片推送到文件服务器minio和消息队列rocketmq,便于开发者获取到推理结果进行业务开发。
(4).项目同时支持基于ONNX的推理运算和基于Tensorrt的加速推理运算2种方式,只需在调用时传递不同参数即可。
(5).项目同时支持Linux和Windows环境,代码自动判断运行的环境并执行对应的.bat或.sh脚本文件以启动AI模型推理。
(6).项目包含前端完整代码和后端完整代码,开箱即用,为JAVA开发者训练、部署、使用AI模型提供了参考。
2.软件架构
(1).系统架构 本AI算法中台系统结合了SpringBoot开发Web项目的优势、Python训练调试AI模型的优势、Shell脚本便于调用Linux服务器资源的优势,将不同语言综合一起协调工作,并将项目运行在Docker容器中以便于运维和管理,让JAVA开发者能够方便训练、部署、使用AI模型。
(2).技术栈
开发环境:IDEA、JDK1.8、Maven、Gitlab、Pycharm、Anaconda3
软件架构:Nginx+SpringBoot + Vue + Shell + Python
前端框架:Vue + Nodejs
Web框架:SpringBoot
Orm框架:MyBatis3
数据库:Mysql、Redis、MongoDB
消息队列:RocketMq
文件服务:Minio
代码生成: FreeMarker自动生成后端Java代码和前端Vue代码
CPU设备: Intel(R) Xeon(R) Gold 5218 CPU @ 2.30GHz
GPU设备: Nvidia Tesla T4 16G
AI模型:Yolov8n
训练环境:Pytorch2.3.0 + Onnxruntime-gpu1.16.1 + Ultralytics8.2.48
推理环境: Cuda11.8 + Cudnn8.6.0 + Tensorrt8.5.1.7 + Onnxruntime-gpu1.16.1
推理加速: Tensorrt8.5.1.7
视频操作:Opencv4.7.0
视频推流: FFmpeg4.2.7
流媒体服务:Zlmediakit
部署环境:Docker + Ubuntu20.04
项目效果
20240712-111715
3.如有问题,v
4.源码地址:
查看源码后记得给 ⭐️ ⭐️⭐️Star⭐️⭐️ ⭐️哦 , 您的 Star 将是我的动力!!!
(2).GitHub
xiaoyeshenger/java_pytorch_onnx_tensorrt_yolov8_vue · GitHub