量化yolov3tiny 基于tensorflow lite

最近小导师也是突发奇想，居然想做深度学习检测网络的二值化，我认为这种类型要求定位精准，定位细致的网络，定点化尚且还行，二值化恐怕是不可行的。

没办法，他扔出一个链接给师弟，师弟又扔给我，我也是醉了，自己都不知道是啥就瞎塞给学生。
首先申明一下，这是一篇有关于量化(定点化是特殊的一种量化方式)，网络模型压缩，可以分为量化与剪枝两大类。

首先给出一个github链接：https://github.com/caslabai/yolov3tiny_tensorflow_int8_quantized
里面的代码其实也没啥，无非是一些预训练好的模型与权重，制作好的脚本，run之后就会得到是适应于tensorflow lite支持设备的部署模型文件。可是其中的转换脚本，也就是将浮点模型转换成定点模型的过程，其实。。也就是行代码的事。详见：https://github.com/caslabai/yolov3tiny_tensorflow_int8_quantized/blob/master/tf_int8.py 里面的

converter = tf.lite.TocoConverter.from_saved_model(saved_models_root )

这句代码就完成了所有工作，而且貌似只能量化权值到默认的8位整形，并且还需要支持混合内核计算。也就是说，这个定点化模型，不仅看不到内部的实现(可能需要去深入理解上面那个API的内核实现。。)，还要求吧、只能部署在支持tensorflow lite的设备上，虽然现在正在进一步实现对不支持tensorflow lite平台的支持。。这对于专用芯片，不支持cpu处理器与内存的情况下，根本毫无卵用好嘛。唯一有用的是那个量化方法，可是却被一句代码给略过。。

还是贴上几个链接吧，可能对其他嵌入式平台设备的朋友们可能有用：
https://blog.csdn.net/TensorFlowers/article/details/82871551
http://www.zhuanzhi.ai/document/49c5e9fefaf4ece27640ed1413d981df
http://www.myzaker.com/article/5ba9906c77ac640ced2f18f5/
https://blog.csdn.net/u012101561/article/details/82587806?utm_source=blogxgwz6

这方面的发展一直很快，更多信息大家可以自行百度关键词搜索，“tensorflow量化 论文”，“tf lite 论文”。