![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
量化
文章平均质量分 63
读书不觉春已深
这个作者很懒,什么都没留下…
展开
-
量化位宽问题
量化到低于16bit的神经网络已经很常见了,浮点数据类型主要有float16和double32,8bit以下的数据类型表示在程序中是怎么进行的一直很疑惑。从github中找到的代码中,量化函数的完成方式为://真正起作用的量化函数class Quantizer(Function): @staticmethod def forward(ctx, input, nbit): scale = 2 ** nbit - 1 return torch.round(i原创 2021-03-29 20:30:06 · 1070 阅读 · 1 评论 -
Up or Down? Adaptive Rounding for Post-Training Quantization个人理解
Up or Down? Adaptive Rounding for Post-Training Quantization个人理解亮点核心公式推导功能快捷键合理的创建标题,有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能,丰富你的文章UML 图表FLowchart流程图导出与导入导出导入亮点提出一个新的无需重训练的量化方法原创 2021-03-11 16:19:52 · 912 阅读 · 1 评论