number(p,s)意义

  number(p,s)
  p:1~38
  s:-84~127

  p>0,对s分2种情况分析:
  1. s>0
  精确到小数点右边s位,并四舍五入。然后检验有效数位是否<=p;假如s>p,小数点右边至少有s-p个0填充。
  2. s<0
  精确到小数点左边s位,并四舍五入。然后检验有效数位是否<=p+s
  (有效数位:从左边第一个不为0的数算起)
 

 number                输入123.456   存储的是123.456
number(6,2)        输入123.456   存储的是123.46
                               输入123123.456   存储报错
number(6)           输入123.456   存储的是123
number(5,-2)      输入123.456   存储的是100
                              输入3.456   存储的是0
number(4,5)       输入123.456   存储报错
                             输入0.123   存储报错
                             输入0.0123   存储的是0.123
                             输入0.012345   存储的是0.01235

来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/10640532/viewspace-605261/,如需转载,请注明出处,否则将追究法律责任。

转载于:http://blog.itpub.net/10640532/viewspace-605261/

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值