mysql中的float精度问题

float存储4个字节,对应32位,32位中又包含了符号位、指数数、有效位等,当十进制数转化为二进制数超出位数会出现截断的情况,引发精度丢失。而在MySQL数据存储float数据时发生精度丢失会导致存储数据近似原数据,这就导致使用原数据等值查询而查询不到,但是范围查询可以查询的情况。另外在对float进行精度限制引发的四舍五入也存在精度丢失问题,需要注意的是此时的精度丢失是发生在四舍五入之后,即先进行四舍五入再进行存储(精度可能丢失)。

比如:11.9,可存但是等值查询11.9查询不到,是因为11.9存储的过程存在精度丢失,数据库存储的是近11.9的二进制,但是展示结果还是11.9。在设置字段float(M,2)时,存储0.246会先进行四舍五入得到0.25,数据库存储0.25二进制不存在精度丢失,可以进行等值查询。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值