mysql关于数值精度问题

问题来源:

前几天用户向我反映了一个问题,有一个金额字段当输入到达百万级时,个位数的精度会丢失,即1000001会显示为100W,然后我就开始查找问题所在。

 

背景:

首先,实体类该字段为float类型,mysql类型也为float,然后当我在后台保存数据时:

假设金额nowPrice = 1008622java输出为:1008620,而mysql显示为:111007_86Io_1985414.png

显然是因为科学计数法把个位数的精度丢失了,从而导致数据出错。

 

问题分析过程:

一开始我认为是java问题,因为floatdouble类型当位数过多时会自动转化为科学计数法,可能在转换的过程中精度丢失了,从而导致数据库的数据出错。

为了验证以上说法,我使用sql查询语句来测试,结果:

111008_x60v_1985414.png 

111105_txq6_1985414.png 

即使用1008622作为条件可以正确查询到记录,而使用1008620是不能查询到记录的,因此我认为数据库的真实数据是正确的,但显示则使用丢失了精度的科学计数法。

 

然后我直接使用mysql驱动连接数据库并查询结果,发现ResultSet rs.getString("nowPrice") = 1.00862e+06rs.getFloat("nowPrice") = 1008620.0,可见mysql是把丢失了精度的科学计数法直接返回给应用。

至此可以确定是mysql的问题了,于是我查询了相关资料并请教公司DBA,原来floatdouble是属于非标准类型,他们在mysql中保存的是近似值,会导致精度问题。

之后我做了更多测试,包括添加小数点数值。当添加了小数点之后,基本上无法使用该字段作精确的条件查询出来了。

PS:可以使用此方法查出来:select * from tt_price where price = (select price from tt_price);

111008_UUr9_1985414.png 

总结float类型的问题:1.数值达到百万级别时真实数值与显示数值不一致;2.返回给应用的数值不是真实数值;3.小数点位数过多时会进行四舍五入,导致查询、更新操作出现异常情况。

类似的double类型同样存在以上的问题,只不过double是双精度,需要更高位数时才能出现这种问题。

 

结论:

因此,在比较敏感的字段上如金额等字段,建议使用:mysql使用decimal类型,oracle使用Number类型。Decimal是以字符串的形式保存数值,Number则是变长阿拉伯数字数组。两者均可以指定总位数和小数位,另外精度和小数位不会影响数据如何存储,只会影响允许哪些数值及数值如何舍入。

 

续篇:

后来经过测试,mysqlfloatdouble也可以指定总位数和小数位,显式地指定位数和小数位后效果与decimal无差,不会存上真实数值与显示数值不一致,因此float基本能满足我们的日常需求了,只是必须要指定位数而已。


转载于:https://my.oschina.net/u/1985414/blog/380343

  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Mysql数据库设计 数据库设计 MYSQL数据库设计 串转义序列 \0 NUL(ASCLL 0) \' \" \b 退格 \n 新⾏ \r 回车 \t 制表符 \\ 反斜杠 数值列类型 TINYINT 1字节 ⾮常⼩的整数 有符号值:-128⾄127 ⽆符号值:0⾄255 SMALLINT 2字节 较⼩的整数 有符号值:-32768 MEDIUMINT 3字节 中等⼤⼩的整数 有符号值: INT 4字节 标准整数 有符号值: BIGINT 8字节 ⼤整数 有符号值: FLOAT 4字节 单精度浮点数 有符号值: DOUBLE 8字节 双精度浮点数 有符号值: DECIMAL M字节 ⼀个串的浮点数 有符号值: CHAR VARCHAR TINYBLOB BLOB MEDIUMBLOB LONGBLOB TINYTEXT TEXT MEDIUMTEXT LONGTEXT ENUM SET ⽇期与时间类型格式 DATE "YYYY-MM-DD" TIME "hh:mm:ss" DATETIME "YYYY-MM-DD hh:mm:ss" TIMESTAMP "YYYYMMDDhhmmss" YEAR "YYYY" 数值列类型的取值范围 数值列的列属性: AUTO_INCREMENT 创建⼀个唯⼀标志符号或许顺序值 create table a ( I int auto_increment not null primary key); UNSIGNED 禁⽌此属性存在负值 create table test(num tingint , num2 tingint unsigned); NULL and NOT NULL 缺省为NULL create talbe test (num int, num2 int default 1, num3 int default null) 运算符 = 等于 <>或者!= 不等于 <=> NULL安全的等于(NULL-safe) < ⼩于 > ⼤于 <= ⼩于等于 >= ⼤于等于 BETWEEN 存在与指定范围 IN 存在于指点集合 IS NULL 为NULL IS NOT NULL 不为NULL LIKE 通配符匹配 REGEXP或者RLIKE 正则表达式匹配 %(百分号) a%b表⽰以a开头b结尾的任意长度的字符串 _(下横线) a_b表⽰以a开头b结尾的长度为3的任意字符, PRIMARY KEY UNIQUE NOT NULL AUTO_INCREMENT DEFAULT default_value PRIMARY KEY 与UNIQUE 数据库操作: show database; show tables; use dataname; create database 数据库名; create table test( id int primary key auto_increment, title varchar(16) ); describe 表名; desc 表名; drop talbe tablename; alter talbe 表名 action add 列名 add primary key alter 列名 set default drop 列名 drop primary key drop index index_name rename as 新表名 insert into 表名(id,name,...) valuse(1,liqingbo); update 表名 set 列名=数据值 where ⼦句; delet from 表名 where ⼦句; select group by having order by limit desc asc count sum avg max min resource mysql_connect(host,root,password); mysql_close(); bool mysql_select_db(tablename[,],连接返回变量); resource mysql_query(SQL语句) resource mysql_db_query(tablename[,]); array mysql_fetch_row(); array mysql_fetch_array(); MYSQL_ASSOC: MYSQL_NUM: MYSQL_BOTH: mysql_num_fields(); 取得结果集中字段的数⽬ mysql_num_rows(); 取得结果集中⾏的数⽬ mysql_result(); mysql_free_result(); mysql_close(); mysql_pconnect; mysql_create_db; m

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值