飞桨paddlespeech语音唤醒推理C定点实现

做定点实现主要包括两部分工作，一是模型参数的量化和定Q格式等，二是基于Q格式的定点实现。关于模型参数的量化，我曾写过相关的文章（深度学习中神经网络模型的量化），有兴趣的可以去看看。我用的是对称量化，这里简述一下这部分的工作。

1，  在python下根据paddlepaddle提供的API（named_parameters）得到模型每层的参数（weight & bias），同时看每层的weight和bias的绝对值的最大值，从而确定参数的Q格式，再以这个Q格式对weight 和bias做量化。

2，  在python下得到测试集里非常多个文件每层的输入和输出的绝对值的最大值，从而确定每层的输入和输出的Q格式。

至于代码的定点化，主要包括如下几点：

1，  卷积层的定点化

主要是做好乘累加以及输出的移位和防饱和处理。在文章（深度学习中神经网络模型的量化）里有详细描述，这里就不细讲了。

2，  sigmoid的定点化

调研了一下，sigmoid的定点化主要用查表法来实现。Sigmoid(x)在x<=-8时近似为0，在x>=8时近似为1，因此做表时在