1、number(p,s)
p: 1---38
s: -84---127
a、s > 0 (精确到小数点右边 s 位,并四舍五入 。然后检验有效数位是否 <= p)
例如:number(5,2) 有效数字最多是5位,保留小数点后2位;
123.45 -- 123.45
123 -- 123.00
1.2356 -- 1.24
0.001 -- 0.00
b、s < 0 (精确到小数点左边 s 位,并四舍五入 。然后检验有效数位是否 <= p + |s|)
例如:number(5,-2) 小数点左边最后2位四舍五入,最多7位有效数字
123456 -- 123460
1234567.6789 -- 1234600
1 -- 0
总结:在 p < s 这种情况下 只能用来存放大于0小于1的小数。
在 p > s 这种情况下 小数点前最多只能插入:p - s个数字,但小数点后的数字可以是任意长度(保存时会四舍五入)
p: 1---38
s: -84---127
a、s > 0 (精确到小数点右边 s 位,并四舍五入 。然后检验有效数位是否 <= p)
例如:number(5,2) 有效数字最多是5位,保留小数点后2位;
123.45 -- 123.45
123 -- 123.00
1.2356 -- 1.24
0.001 -- 0.00
b、s < 0 (精确到小数点左边 s 位,并四舍五入 。然后检验有效数位是否 <= p + |s|)
例如:number(5,-2) 小数点左边最后2位四舍五入,最多7位有效数字
123456 -- 123460
1234567.6789 -- 1234600
1 -- 0
总结:在 p < s 这种情况下 只能用来存放大于0小于1的小数。
在 p > s 这种情况下 小数点前最多只能插入:p - s个数字,但小数点后的数字可以是任意长度(保存时会四舍五入)