pow()函数结果强制转化为int造成误差的分析

开发环境:codeblocks,编译器gcc

在计算102时调用pow(10, 2),再强制类型转换为int类型后输出:

printf("%d",(int)pow(10,2));

 得到的结果却是:99

这是因为 double pow(double x, double y) ,返回值是采用数值逼近的方法得到的double类型值。例如返回值为99.9999999时,强制类型转换发生截断,得到99。

 仔细分析后发现:

因为pow函数导致从double返回值类型向int型转化的时候是直接把小数部分切掉,

导致原先double型的小数部分不再四舍五入,从而失去了整数部分的精度,最终结果差1

最简单的解决方案:+ 0.5

(int)(pow(10, 2) + 0.5)  // 返回值为100

解决方案2:

自行编写 pow() 函数,以整型作为形参与返回值。

解决方案3:

运用四舍五入函数:

printf("%d",(int)round(pow(10,2)));

ps: 在vc6.0运行是正确的,在codeblock上就是错误的。应该是编译器的问题了。

 

参考:

https://blog.csdn.net/Ratina/article/details/86538025

https://blog.csdn.net/changer_WE/article/details/80379171

 

 

 

 

转载于:https://www.cnblogs.com/zkfopen/p/10522004.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值