需要首先明白有效位的含义:从左到右,从第一个不为零的数开始计数
第一种情况:
number后面都是两个正数,第一个数表示有效位,第二个数表示小数点后的位数(也就是精确度,需要进行四舍五入)
例如
number(2,1)
存入的数据有
1,0.1,1.666
分析过程:
存入1:要求有效位小于等于2,所以自动补充0,存入1实际上判断的是1.0是否符合条件,自然可以添加
存入0.1:要求有效位小于等于2,不需要补充0,符合条件
存入1.666:虽然要求有效位大于2,但是需要进入四舍五入,所以存入的是1.7
结论:
如果实际有效位低于所要求的有效位,可以先补充出所需的有效位,所以一般满足实际有效位低于或等于要求有效位的数都可以添加。如果实际有效位大于所要求的有效位则还需要再按照要求四舍五入后再进入判断是否符合有效位
第二种情况
第一个数为正数,第二个数为负数,表示小数点前的位数,有效位等于两位数的绝对值和
例如
number(2,-2)
存入的数据有
1555,1555.5
分析过程:
存入1555:要求有效位小于等于2+2 = 4,符合条件,但需要对倒数第二个数进行四舍五入,所以最后存入的数为1600
存入1555.5:虽然要求有效位大于2+2 = 4,不符合条件,但是仍可以存入,猜测是忽略了小数点后的,最后存入的数为1600
结论:
大部分同上,只不过加了一个条件,小数点后不做处理直接忽略。