一,Vitis-AI简介
1,Vitis-AI概述
Vitis-AI在边缘计算设备的AI全栈部署框架中扮演了编译器端与后端的角色,接收前端DNN (Deep Neural Network) 框架训练后的网络参数IR(Intermediate Representation),并将其优化后编译并传递给后端。后端DNNDK(Deep Neural Network Development Kit)为 Edge终端提供了驱动和API,还有调试运行的工具库。
2,网络参数的量化校准(Quantization&Calibration)
神经网络在主流框架训练完成后可导出网络模型.pb 文件,它包含了模型的参数信息。DPU导入该参数信息前,首先需要将其量化,即浮点数定点化。定点化过程中需要输入无需标签的测试集。
准备工作:网络结构可视化。使用Netro工具查看网络结构。
首先安装 snap 平台,然后安装可视化工具 Netron。
sudo apt-get install snapd
sudo apt-get install snapcraft
sudo snap install netron
在目录 Compile_Tools/下启动以分析网络参数文件:netron float/yolov3_voc.pb
进入Vitis-AI Do