mysql关于数值精度问题

问题来源:

前几天用户向我反映了一个问题,有一个金额字段当输入到达百万级时,个位数的精度会丢失,即 1000001 会显示为 100W ,然后我就开始查找问题所在。

背景:

首先,实体类该字段为 float 类型, mysql 类型也为 float ,然后当我在后台保存数据时:

假设金额 nowPrice = 1008622 java 输出为: 1008620 ,而 mysql 显示为: 111007_86Io_1985414.png

显然是因为科学计数法把个位数的精度丢失了,从而导致数据出错。

问题分析过程:

一开始我认为是 java 问题,因为 float double 类型当位数过多时会自动转化为 科学计数法,可能在转换的过程中精度丢失了,从而导致数据库的数据出错。

为了验证以上说法,我使用 sql 查询语句来测试,结果:

111008_x60v_1985414.png

111105_txq6_1985414.png

即使用 1008622 作为条件可以正确查询到记录,而使用 1008620 是不能查询到记录的,因此我认为数据库的真实数据是正确的,但显示则使用丢失了精度的科学计数法。

然后我直接使用 mysql 驱动连接数据库并查询结果,发现 ResultSet rs.getString("nowPrice") = 1.00862e+06 rs.getFloat("nowPrice") = 1008620.0 ,可见 mysql 是把丢失了精度的科学计数法直接返回给应用。

至此可以确定是 mysql 的问题了,于是我查询了相关资料并请教公司 DBA ,原来 float double 是属于非标准类型,他们在 mysql 中保存的是近似值,会导致精度问题。

之后我做了更多测试,包括添加小数点数值。当添加了小数点之后,基本上无法使用该字段作精确的条件查询出来了。

PS :可以使用此方法查出来: select * from tt_price where price = (select price from tt_price);

111008_UUr9_1985414.png

总结 float 类型的问题: 1. 数值达到百万级别时真实数值与显示数值不一致; 2. 返回给应用的数值不是真实数值; 3. 小数点位数过多时会进行四舍五入,导致查询、更新操作出现异常情况。

类似的 double 类型同样存在以上的问题,只不过 double 是双精度,需要更高位数时才能出现这种问题。

结论:

因此,在比较敏感的字段上如金额等字段,建议使用: mysql 使用 decimal 类型, oracle 使用 Number 类型。 Decimal 是以字符串的形式保存数值, Number 则是变长阿拉伯数字数组。两者均可以指定总位数和小数位,另外精度和小数位不会影响数据如何存储,只会影响允许哪些数值及数值如何舍入。

续篇:

后来经过测试, mysql float double 也可以指定总位数和小数位,显式地指定位数和小数位后效果与 decimal 无差,不会存上真实数值与显示数值不一致,因此 float 基本能满足我们的日常需求了,只是必须要指定位数而已。


评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值