mkdir build
cd build
cmake ..
make -j16
AIPU运行过程
- offline
在Building tool的python文件夹下实现加载好的网络,经过Parser和aqt后用buildtool解析bin文件后,将得到的代码段/数据段等按照cpu的控制放入aipu的不同部分来执行 - online
-在Building tool的src文件夹下构建模型,通过输入graph(移动端支持的Tflite模式)经plugin的.so文件在线训练,并通过调用layer lib(?)实现各种op计算,用buildtool解析bin文件后,将得到的代码段/数据段等按照cpu的控制放入aipu的不同部分来执行
aqt 下的C++文件是安卓的接口,安卓端训练好的网络的各种参数(scale ,zp, weights, bias, shift等)需要经过非对称转对称的量化,转换好后安卓通过gbuilder(跑通过plugin接口的layer lib内op等函数)转成硬件可以支持的格式(aipurun)
跑gbuilder
/project/ai/scratch01/samhan01/work/gitlab/cpp_buildtool/AIPU_building_tool_design/build/tools/aipurun
-w
/project/ai/scratch01/Benchmarks/HW_RELEASE/SC000/resnet_50/resnet_50_int8.bin2
/project/ai/scratch01/Benchmarks/HW_RELEASE/SC000/resnet_50/resnet_50_int8.txt
-i /project/ai/scratch01/Benchmarks/HW_RELEASE/SC000/resnet_50/input.bin
–simulator ./tools/aipu_simulator -o aipu_resnet50.bin