excel计算 0值判断与类型转换

本文记录了一位用户在Excel中遇到的计算问题,涉及到0.07,0.14,0.28这几个数字。在进行特定公式计算时,7-7不等于0,且LOOKUP函数无法正确识别0.07。问题可能与强制类型转换和减法精度有关,尤其是在使用Excel 97-2003工作表(.xls)时。用户详细描述了问题出现的情景及公式,指出在特定区间内出现了错误判断和查找结果。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

提前说明:该问题我也没能解决,只是作为记录。猜测与强制类型转换、减法精度有关。

问题概括:使用excel的公式进行计算,发现涉及0.07,0.14,0.28这几个数字,出现计算问题,表现形式为7-7不等于0,LOOKUP二分查找不能识别0.07。

文件类型:Microsoft Excel 97-2003 工作表 (.xls)

场景:使用EXCEL的公式进行计算。

公式:=IF(A2<=0.5,IF((A2*100-INT(A2*100))>0,LOOKUP(INT(A2*100)/100+0.01,C:D),LOOKUP(A2,C:D)),IF(A2<=2,IF((A2*10-INT(A2*10))>0,LOOKUP(INT(A2*10)/10+0.1,C:D),LOOKUP(A2,C:D)),IF((A2*2-INT(A2*2))>0,LOOKUP(INT(A2*2)/2+0.5,C:D),LOOKUP(A2,C:D))))

其中,加粗标红(简称为公式1)和加粗标蓝(简称为公式2)的地方,分别出现了两个问题。

-------------------------------------------------------------------------------------------------------------------------------------------------

公式1的作用是,判断A2*100-

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值