【U3D日记-2016年10月28日】float转int 误差!

今天遇到一个问题


what?

一顿做实验,如下:

1)


2)


3)


4)


5)


6)


7)



上网查了一下并和别人讨论了下:

原因可能是浮点型存储的数据不会像整型那么“整齐”。也就是说140.0f看上去是int的140,但其实它是一个接近140的小数。

如上我应该可以猜测它不是140.000010.而会是139.999989.

但是好像这么单纯的想也不十分准确。

因为,


我用 "1.4d" 就可以得到正确的140.他的精度虽然提高了。但他仍然是139.99999999999989。也不是140.

并且我又做了一个实验


这个数取小一点就可以。


并且


我加了中间变量temp,temp的类型也是不那么“整齐”的float。可为什么就可以得到140呢?


到底问题的关键是什么!


评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值