浮点数问题

转自:

http://bbs.csdn.net/topics/390447100

 


(一)  浮点数没有经过计算过的类型:

其中有浮点数是不能够在精度范围内比较的,如果直接比较>, <  ,==都有可能出错。

如果想比较两个浮点数是否相等,如float.

那么使用:
fabs()<偏差 (这个偏差得可以在精度范围表示,否则 和fabs进行比较的时候, 也会再次出错)


(二)精度范围内都可以表示的浮点数:
但是如果经过计算,那么比较都可能出错。

比较同上

(三)+0.0f, -0.0f的问题

二进制不同,但是硬件机制导致二者比较相同。ieee754规定.


(四)偏差的选取, 由于偏差如果不能够在精度范围内精确的表示,随手选取一个。

会带来比较隐患.

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值