首发极术社区
如对Arm相关技术感兴趣,欢迎私信aijishu20加入技术微信群。
开发板申请
近期,为了让开发者更快得体验搭载周易AIPU处理器的R329芯片,极术社区联合矽速科技共同推出了R329开发板申请活动,申请流程请参考:「免费申请」首批基于全志R329芯片的AI开发板免费申请啦
模型仿真测试
以下基于mobilenet_v1_50模型进行仿真测试,仿真测试文件及模型文件已打包上传至网盘, 文末包含附件相关下载链接。
- 模型文件
1.1 预训练模型下载
http://download.tensorflow.org/models/resnet_v1_50_2016_08_28.tar.gz
1.2 模型文件生成
下载好预训练的ckpt文件后,转换ckpt到冻结的pb文件, 建议使用tf1.13~1.15之间的版本,可以参考R329教程一|周易 AIPU 部署及仿真教程
# 导出图
python3 export_inference_graph.py \
--alsologtostderr \
--model_name=resnet_v1_50 \
--image_size=224 \
--labels_offset=1 \ # resnet_50 specific, default is 0
--output_file=resnet_v1_50_inf.pb
# 使用预训练权重冻结
python3 freeze_graph.py \
--input_graph=resnet_v1_50_inf.pb \
--input_checkpoint=resnet_v1_50.ckpt \
--input_binary=true --output_graph=resnet_v1_50_frozen.pb \
--output_node_names= resnet_v1_50/predictions/Reshape_1
注意:实际使用的导出图pb文件,做了优化将输入[-1, 224, 224, 3] 改成 [1, 224, 224, 3],导出图为resnet_v1_50_inf_optimize.pb
- 矫正集
将图片和label放到dataset目录下的img路径和label.txt下,
执行 preprocess_dataset.py 生成 dataset.npy和label.npy矫正集文件。 - cfg 文件
如附件中 resnet_v1_50_run.cfg 所示:
[Common]
mode=run
[Parser]
model_name = resnet_v1_50
detection_postprocess =
model_domain = image_classification
output = resnet_v1_50/predictions/Reshape
input_model = ./model/resnet_v1_50_frozen.pb
input = input
input_shape = [1,224,224,3]
output_dir = ./
[AutoQuantizationTool]
model_name = resnet_v1_50
quantize_method = SYMMETRIC
ops_per_channel = DepthwiseConv
calibration_data = ./dataset/dataset.npy
calibration_label = ./dataset/label.npy
preprocess_mode = normalize
quant_precision=int8
reverse_rgb = False
label_id_offset = 0
[GBuilder]
inputs=./model/input.bin
simulator=aipu_simulator_z1
outputs=output_resnet_v1_50.bin
profile= True
target=Z1_0701
- simulator 执行结果
执行脚本./run_sim.sh或执行命令aipubuild config/resnet_v1_50_run.cfg
运行之后得到 output_resnet_v1_50.bin,使用 quant_predict.py 解析后:
predict first 5 label:
index 63, prob 127, name: rock python, rock snake, Python sebae
index 58, prob 102, name: garter snake, grass snake
index 60, prob 97, name: vine snake
index 113, prob 88, name: conch
index 53, prob 87, name: thunder snake, worm snake, Carphophis amoenus
true first 5 label:
index 65, prob 115, name: green mamba
index 58, prob 93, name: garter snake, grass snake
index 62, prob 93, name: boa constrictor, Constrictor constrictor
index 54, prob 90, name: ringneck snake, ring-necked snake, ring snake
index 60, prob 86, name: vine snake
Detect picture save to result.jpeg
Detect picture save to result.jpeg
对比预测结果,可以看到较准确地预测了图片内容为snake类, rock snake 或 grass snake (眼镜蛇)
完整输出日志结果附在了 AIPU-Zhouyi-Resnet_v1_50/log.txt下
模型实机测试
待申请好R329开发板后,实机评测验证
附件
下载地址:AIPU-Zhouyi-Resnet_v1_50.tar.gz
链接: https://pan.baidu.com/s/1IIezqxPAgy17UgSyhBPByg
提取码: xyuw
附件目录:
相关阅读: