MySQL浮点计算存在的问题与解决方案

在计算机中,浮点数往往很难精确表示,那么浮点数运算结果也往往难以精确表示。MySQL同样也存在这个问题,并表现在如下几个方面。

问题

1、相同的输入,可能造成不一样的输出(受CPU、编译器等影响) 

  a)下面是MySQL官方网站给出的例子

CREATE TABLE t1 (i INT, d1 DOUBLE, d2 DOUBLE);
INSERT INTO t1 VALUES (1, 101.40, 21.40), (1, -80.00, 0.00),
(2, 0.00, 0.00), (2, -13.20, 0.00), (2, 59.60, 46.40),
(2, 30.40, 30.40), (3, 37.00, 7.40), (3, -29.60, 0.00),
(4, 60.00, 15.40), (4, -10.60, 0.00), (4, -34.00, 0.00),
(5, 33.00, 0.00), (5, -25.80, 0.00), (5, 0.00, 7.20),
(6, 0.00, 0.00), (6, -51.40, 0.00);
SELECT i, SUM(d1) AS a, SUM(d2) AS b
FROM t1 GROUP BY i HAVING a <> b;

  当i=1时,a=21.4、b=21.4,本不满足a<>b这个条件,可是MySQL仍然判定a与b不相等。

     b)在本地虚拟机测试时(Centos 6.4 X86_64)

+------+--------------------+------+
| i    | a                  | b    |
+------+--------------------+------+
|    1 | 21.400000000000006 | 21.4 |
|    2 |  76.80000000000001 | 76.8 |
|    3 |  7.399999999999999 |  7.4 |
|    4 | 15.399999999999999 | 15.4 |
|    5 |  7.199999999999999 |  7.2 |
|    6 |              -51.4 |    0 |
+------+--------------------+------+

2、结果受浮点数本身的精确度影响
  把double改成float,结果如下
+------+---------------------+--------------------+
| i    | a                   | b                  |
+------+---------------------+--------------------+
|    1 |  21.400001525878906 | 21.399999618530273 |
|    2 |   76.79999828338623 |  76.80000114440918 |
|    3 |   7.399999618530273 |  7.400000095367432 |
|    5 |   7.200000762939453 |  7.199999809265137 |
|    6 | -51.400001525878906 |                  0 |
+------+---------------------+--------------------+
解决方案
1、decimal
  在MySQL中,带有小数的精确运算可以使用decimal类型
  CREATE TABLE t3 (i INT, d1 decimal(10,3), d2 decimal(10,3));
  +------+---------+-------+
  | i    | a       | b     |
  +------+---------+-------+
  |    6 | -51.400 | 0.000 |
  +------+---------+-------+
限制
  decimal的精确表示为decimal(M,D),其中M最大为65,D最大为30。因此其表示的范围是远远小于double所能表示的范围

2、基于应用的解决方案
  比如商品价格涉及到小数,用20.95元表示,那么可以把价格变成以分为单位,即变成2095。

结论
  不要使用float、double以及其等价类型做精确计算。如果要在MySQL中做精确计算,推荐使用decimal或者将相关
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

MySQL大神

用金钱解决你的烦恼

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值