mysql floor 不准确_MySQL FLOOR函数意外结果

CREATE TABLE table_name (col_a double(10,2), col_b double(10,2), col_c double(10,2));

INSERT INTO table_name VALUES(36.3, 0, 6.3);

gRR51.png

QUERY

SELECT FLOOR(36.3- 0 -6.3), FLOOR(col_a - col_b - col_c) AS calc, col_a, col_b, col_c

FROM table_name LIMIT 1;

结果

PXa1O.png

首选值=> FLOOR(36.3-0-6.3)导致30.

第二个选定值=> FLOOR(col_a – col_b – col_c)等于FLOOR(36.3-0-6.3)导致29但我期待30

为什么这些选择获得两个不同的值?

解决方法:

当使用double或float类型时,这是MySQL中的一个已知问题,它不像我们看到的那样内部存储.

如果你阅读了MySQL documentation,你会发现一个建议的解决方法,即使用decimal而不是double.您可以在下面的Fiddle中看到,当使用decimal(10,2)作为列类型时,所有这些都按预期工作:

SQLFiddle

标签:mysql,floor

来源: https://codeday.me/bug/20190527/1164984.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值