浮点类型如何不丢失精度的传递

浮点类型如何不丢失精度的传递

用户反馈,Android版本在配件收款中,如果价格是用户输入的价格,当价格为xx.x9时,会出现显示在APP上的价格和收款价格不匹配的情况。

用户自己输入的价格,由APP传递配件价格给服务器,这意味着整个配件的价格是以APP的为准。经过查询代码,发现是由于在将店员输入的价格由字符串转化为double类型来计算时,导致精度丢失。

那么,这个问题是如何产生并导致,应该怎样修复这个问题呢?

浮点型数据精度

由于计算机内部以二进制保存,所以十进制的有限位的小数,在计算机内部会是一个无限位的小数。

计算机保存浮点数的精度有限,例如 float 可以保留十进制最多7位(二进制23位)有效数字,double 可以保留十进制15~16位(二进制52位)有效数字。那有效数字以后的就被忽略了,这里可能就会产生精度丢失。

根据浮点数的存储标准(IEEE制定),float类型指数的起始数为127(二进制0111 1111),double 类型指数的起始数为1023(二进制011 1111 1111),在此基础上加指数,得到的就是内存中指数的表示形式。尾数则直接填入,如果空间多余则以0补齐,如果空间不够则0舍1入。

这里我以十进制的 0.6 为例,进行一次二进制转化

0.6*2 =
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值