浮点类型如何不丢失精度的传递
用户反馈,Android版本在配件收款中,如果价格是用户输入的价格,当价格为xx.x9
时,会出现显示在APP上的价格和收款价格不匹配的情况。
用户自己输入的价格,由APP传递配件价格给服务器,这意味着整个配件的价格是以APP的为准。经过查询代码,发现是由于在将店员输入的价格由字符串转化为double类型来计算时,导致精度丢失。
那么,这个问题是如何产生并导致,应该怎样修复这个问题呢?
浮点型数据精度
由于计算机内部以二进制保存,所以十进制的有限位的小数,在计算机内部会是一个无限位的小数。
计算机保存浮点数的精度有限,例如 float
可以保留十进制最多7位(二进制23位)有效数字,double
可以保留十进制15~16位(二进制52位)有效数字。那有效数字以后的就被忽略了,这里可能就会产生精度丢失。
根据浮点数的存储标准(IEEE制定),float
类型指数的起始数为127(二进制0111 1111),double
类型指数的起始数为1023(二进制011 1111 1111),在此基础上加指数,得到的就是内存中指数的表示形式。尾数则直接填入,如果空间多余则以0补齐,如果空间不够则0舍1入。
这里我以十进制的 0.6 为例,进行一次二进制转化
0.6*2 =