sqlserver四舍五入取整下一位是5不进位的问题

关于sql convert(decimal(a,b),n) 对于数字n保留b位小数的问题,当b的最后一位为5时,偶尔会发生不进位的情况。

eg.

select (b.CSZF+a.ZGJFFS)/(a.CSZSXS*1.00) * a.CSCJQZ  + a.FSCJ/(a.FSZSXS*1.00) * a.FSCJQZ,Convert(decimal(6,2),((b.CSZF+a.ZGJFFS)/(a.CSZSXS*1.00) * a.CSCJQZ  + a.FSCJ/(a.FSZSXS*1.00) * a.FSCJQZ)) from TB_BKXX a,TB_CSCJ b where a.KSBH=b.KSBH and FSCJTJZT=1 and a.KSBH='100271218230029'

尝试解决方案1:先*100,取整再除以100

select (b.CSZF+a.ZGJFFS)/(a.CSZSXS*1.00) * a.CSCJQZ  + a.FSCJ/(a.FSZSXS*1.00) * a.FSCJQZ,Convert(decimal(6,2),Convert(decimal(6,0),((b.CSZF+a.ZGJFFS)/(a.CSZSXS*1.00) * a.CSCJQZ  + a.FSCJ/(a.FSZSXS*1.00) * a.FSCJQZ)*100)/100) from TB_BKXX a,TB_CSCJ b where a.KSBH=b.KSBH and FSCJTJZT=1 and a.KSBH='100271218230029'

select (b.CSZF+a.ZGJFFS)/(a.CSZSXS*1.00) * a.CSCJQZ  + a.FSCJ/(a.FSZSXS*1.00) * a.FSCJQZ,Convert(decimal(6,2),Convert(decimal(6,0),((b.CSZF+a.ZGJFFS)/(a.CSZSXS*1.00) * a.CSCJQZ  + a.FSCJ/(a.FSZSXS*1.00) * a.FSCJQZ)*100)/100) from TB_BKXX a,TB_CSCJ b where a.KSBH=b.KSBH and FSCJTJZT=1 and a.KSBH='100651015111028'

有的好使了,有的还不好使

解决方案二:对于n加一个十的负b+2次方的常数。比如取两位小数加一个0.0001

select (b.CSZF+a.ZGJFFS)/(a.CSZSXS*1.00) * a.CSCJQZ  + a.FSCJ/(a.FSZSXS*1.00) * a.FSCJQZ,Convert(decimal(6,2),((b.CSZF+a.ZGJFFS)/(a.CSZSXS*1.00) * a.CSCJQZ  + a.FSCJ/(a.FSZSXS*1.00) * a.FSCJQZ+0.0001)) from TB_BKXX a,TB_CSCJ b where a.KSBH=b.KSBH and FSCJTJZT=1 and a.KSBH='100271218230029'

问题解决。

查找网上的方法说是算数机制的问题???round函数普遍存在,但是decimal好像比较少见。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值