关于小数位数、偏移、系数
小数位数只是作为显示有几位小数使用,无实际意义
偏移为偏移的量,
如:
偏移1600
为数值-1600
偏移-1600
为数值+1600
系数:
给定数值范围是0~1000和分辨率为0.1,我们可以计算取值范围的数量。取值范围的数量等于数值范围除以分辨率再加1。
具体计算如下:
取值范围数量 = (最大值 - 最小值) / 分辨率 + 1
= (1000 - 0) / 0.1 + 1
= 10000 + 1
= 10001
系数为0.1
数值*10放大