极智AI | 谈谈几种量化感知训练算法

欢迎关注我的公众号 [极智视界]，获取我的更多经验分享

大家好，我是极智视界，本文来介绍一下 谈谈几种量化感知训练算法。

邀您加入我的知识星球「极智视界」，星球内有超多好玩的项目实战源码下载，链接：https://t.zsxq.com/0aiNxERDq

一般所说的量化算法主要包括后量化 (PTQ) 和 量化感知训练 (QAT)，对于工程部署来说，PTQ 往往会是首选，这是因为它的高效 (训练部署解耦)、简单，但是当部署要求提高的时候，比如要求量化误差更加小、比如要求要更低比特的量化时，那就要倾向推 QAT 了。

这里来说说什么是量化感知训练 以及 几种常用的量化感知训练算法。另外关于一些 PTQ 后量化算法的介绍，我之前有写过一些系列文章，感兴趣的同学可以去翻看学习一下。

从以上的讨论其实稍微可以看出 QAT 的几个优势：可以降低量化精度损失、可以达到更加低比特的量化，比如 int4 量化，从而可以进一步轻量化模型、提高推理效率。<