“EasyQuant: Post-training Quantizationvia Scale Optimization” 该文中提到了这种用于得到量化缩放参数的方法。
EQ方法的主要思想是:误差累计,整网决策变成单网决策,以余弦相似度为目标,交替优化权重缩放系数 和 激活值缩放系数。
“EasyQuant: Post-training Quantizationvia Scale Optimization” 该文中提到了这种用于得到量化缩放参数的方法。
EQ方法的主要思想是:误差累计,整网决策变成单网决策,以余弦相似度为目标,交替优化权重缩放系数 和 激活值缩放系数。