mysql使用double的坑

最新推荐文章于 2024-04-27 13:28:11 发布

Bug开发攻城狮

最新推荐文章于 2024-04-27 13:28:11 发布

阅读量1.5w

点赞数 2

分类专栏：那些年那些坑

本文链接：https://blog.csdn.net/zy_281870667/article/details/93510091

版权

17 篇文章 0 订阅

订阅专栏

　　碰到一个很奇葩的问题，mysql默认是四舍五入的，但是，使用double，有时候不四舍五入。

犯罪现场还原

CREATE TABLE `test` (
  `salary_decimal` decimal(11,2) DEFAULT NULL,
  `salary_double` double(11,2) DEFAULT NULL
) ENGINE=InnoDB ;

　　salary_decimal 和 salary_double 分别插入 -96.845

　　很神奇的是，保存后，decimal的是 -96.85 ，double的是-96.84

　　然而，把double的精度从2增加到3，mysql会自动从 -96.84 变为 -96.845 差点亮瞎了我的眼睛

　　这样引发了两个问题：

　　1. 两边数据不一致，一个decimal是-96.85 一个double是-96.84
　　2. sum函数，结果不准确。使用double的表，求和的时候，会出问题。sum(-96.84+ -3.15)的结果不是 -99.99 而是 -100.00

针对问题1，特意找了下资料，发现double本来就是不精准的

附上官网的解释

For FLOAT, the SQL standard permits an optional specification of the precision (but not the range of the exponent) in bits following the keywordFLOAT in parentheses. MySQL also supports this optional precision specification, but the precision value is used only to determine storage size. A precision from 0 to 23 results in a 4-byte single-precision FLOAT column. A precision from 24 to 53 results in an 8-byte double-precision DOUBLEcolumn.
针对问题2，有了问题1的前提，sum的结果自然也是不精准

关注