c#语言float转换int,C#Float表达式:将结果float转换为int时的奇怪行为

博客作者发现了一个C#代码中的奇怪现象:将浮点数6.2f乘以10后转换为整数,得到的结果是61而不是62。尽管使用Math.Round可以避免这个问题,作者希望理解为什么会这样。经过检查字节码和在Java中进行对比测试,发现在C#中即使浮点数运算后存储和加载的操作不同,结果依然不变。问题可能源于浮点数的精度损失。
摘要由CSDN通过智能技术生成

C#Float表达式:将结果float转换为int时的奇怪行为

我有以下简单的代码:int speed1 = (int)(6.2f * 10);float tmp = 6.2f * 10;int speed2 = (int)tmp;

speed1并且speed2应该具有相同的值,但事实上,我有:speed1 = 61speed2 = 62

我知道我应该使用Math.Round而不是cast,但我想了解为什么值不同。

我查看了生成的字节码,但除了存储和加载外,操作码是相同的。

我也在java中尝试了相同的代码,我正确地获得了62和62。

有人可以解释一下吗?

编辑: 在实际代码中,它不是直接6.2f * 10而是函数调用*常量。我有以下字节码:

用于speed1:IL_01b3:  ldloc.s    V_8

IL_01b5:  callvirt   instance float32 myPackage.MyClass::getSpeed()IL_01ba:  ldc.r4     10.IL_01bf:  mul

IL_01c0:  conv.i4

IL_01c1:  stloc.s    V_9

用于speed2:IL_01c3:  ldloc.s    V_8

IL_01c5:  callvirt   instance float32 myPackage.MyClass::getSpeed()IL_01ca:  ldc.r4     10.IL_01cf:  mul

IL_01d0:  stloc.s    V_10

IL_01d2:  ldloc.s    V_10

IL_01d4:  conv.i4

IL_01d5:  stloc.s    V_11

我们可以看到操作数是浮点数,唯一的区别是stloc/ldloc。

至于虚拟机,我尝试使用Mono / Win7,Mono / MacOS和.NET / Windows,结果相同。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值