量化
相比于tf1的量化,tf2的量化就简介多了。在convert2tflite.py文件内,提供了量化、tflite测试以及绘制混淆矩阵的例子。
这里要提一下tflite的量化与eiq的量化。貌似使用tflite量化出来的模型会是eiq的两倍大小,但是tflite量化后是基本没损失的,挺奇怪。
在测试tflite模型时,推荐使用实拍的数据集,这样,你得出的结果应该会与真实状态的正确率是差不多的。
因为我们会训练许多模型,它会有不同的参数,所以在每次量化时都会生成一个json文件,其中保存了模型的信息。
因为模型已经进行了归一化,所以在art上分类函数的参数需要加上scale=1,offset=0。
更新
最近又重新看来下tensorflow的官方文档,发现原来我量化后其实还是float32,可以通过选择参数量化为uint8,这样会更小,但精度会有损失。所以实际上eiq用的就是tensorflow 的uint8量化。