问题如下:
今天学习Redis的时候,设置了一个键身高height,值是178.1,然后用incrbyfloat指令在此基础上加了0.5,发生了小数位异常。以为是redis问题,结果看了下很多网友也有相同疑虑,但是对这种问题没有人来梳理,于是我就在这里总结一下问题,希望和我一样疑虑的小伙伴们能少走弯路。
上图指令如下:
set height 178.1
INCRBYFLOAT age 0.5
keys *
INCRBYFLOAT height 0.5
# 展示结果是"178.60000000000000001"
get height
# 展示结果是"178.60000000000000001"
于是我又尝试了一下小一点的数字,发现显示正常
上图指令如下:
set ruler 50.1
incrbyfloat ruler 0.5
于是我拿很多数字试了下,终于找到了小数位数正常和不正常的分界值。
结论
使用 incrbyfloat 后,浮点数值位于 - 128 ~ 128 之间的,小数位数正常,不会发生错误。
使用 incrbyfloat 后,浮点数值小于 - 128 或者大于 128 的,小数位数异常,发生错误。
详情如下:
先看小于-128的情况:
上述指令如下:
set latern -125.1
incrbyfloat latern -0.5
通过上面的示例,我们发现一旦incrbyfloat之后的数字小于-128,就会发生小数位数异常,而在这之前小数都是正常的。
之后看超过128的情况:
上述指令如下:
set latern -127.1
incrbyfloat foot 0.5
通过上面的示例,我们发现一旦incrbyfloat之后的数字大于128,就会发生小数位数异常,而在这之前小数都是正常的。