项目场景:
在做离线文件导入ck的需求,其中带小数的使用float64来存储(之前是decimal,由于业务不得不调整).
问题描述
name 使用string类型来存储
core 使用float64类型来存储
代码使用 insert into table (name, core) values (?, ?) (?, ?) 占位符方式,再使用PreparedStatement.setObject(int parameterIndex, Object x) 方法替换占位符. 在使用的时候 float64如果是1.852 很神奇落库会失真变成1.8519999999999999.具体原因需要深入研究ck.
解决方案:
- 使用Statement,通过拼接的方式将float类型的数值用toDecimal()函数包一下: toDecimal64(1.852,4) 这里保留4位小数;
insert into table (name, core) values ('zhangsan', toDecimal64(1.852,4)) ('lisi', toDecimal64(1.854,4))
问题出在这里,使用批量插入调用下面方法耗时10秒左右(测试5000条20多个字段),这使得交互很慢
statement.addBatch(sql);
从网上找到的说法
2. 还是使用PreparedStatement, 不能在数值赋值出拼接toDecimal64(1.854,4), 因为setObject方法会解析成字符串. 只要在问号拼接处将toDecimal64()拼接上就可以解决这个问题.我这里是知道字段类型的情况下做逻辑区分
insert into table (name, core) values (?, toDecimal64(?,4)) (?, toDecimal64(?,4))
这个时候使用setObject方法就可以完美解决精度缺失问题