无损量化:量化误差小于量化精度的一半。
如:13.948
整数13,需要4位量化
小数部分一直乘2,直到第一位小数小于5,满足条件,因为第一位小数小于5就说明量化误差小于精度的一半。
量化精度位1/2^N,N位小数部分量化位数。
1、1位量化
0.948*2=1.896。
一个的量化精度为1/2=0.5;
误差为0.896/2=0.448;
0.448/0.5=0.896>0.5,所以1位量化小数不行。
2、两位量化
1.896*2= 3.792
3、三位量化
3.792*2=7.584
4、四位量化
7.584*2=15.168
四个的量化精度为1/16;
误差为0.168/16;
(0.168/16)/(1/16)=0.168<0.5,所以三位量化小数可以。