C语言中浮点型数转化为整型数的陷阱

在将负浮点数转换为整型时,遇到在某些平台上结果变为0的意外bug。标准C语言规定,浮点转整型会丢弃小数部分,若整数部分超出目标类型范围,则行为未定义。此问题在不同编译器和平台上可能有不同的表现,提醒开发者注意检查转换数值的范围。
摘要由CSDN通过智能技术生成

最近做嵌入式项目,把一段老代码一直到智能手机平台之后发现了意想不到的bug。

简单来说就是一个负的FLOAT强转为WORD型会变成0,比如

FLOAT f = -1.0;

WORD w = f;

w会变成0,而不是期待的0xffff(65535)。

于是我在PC上用devc++(win版gcc)和linux版gcc都试了一下,发现均能得到0xffff结果。

反汇编后发现它们使用了x87 PFU的FISTP指令,而这个结果其实是由这个指令给出的。

但遗憾的是在智能手机平台上同样是gcc却得不到0xffff。

由于环境的问题暂时没办法反汇编智能手机程序,如是我翻出C语言标准,看看这个行为标准到底是怎么定义的。

结果如下:

>    When a value of floating type is converted to integral type, the

> fractional part is discarded.  If the value of the integral part

> cannot be represented by the integral type, the behavior is

> undefined. /23/

也就是说浮点型转整型时,先抛弃小数部分,如果剩余的整数部分超出了目标整型的表示范围则该转换行为为未定义。

显然,WORD的表示范围是0-65535,而-1不在此范围之内,所以该强转结果是什么,在不同平台,不同编译器下可能是不同的。

看来今后写类似代码要注意检查浮点数范围了。

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值