提前说明:该问题我也没能解决,只是作为记录。猜测与强制类型转换、减法精度有关。
问题概括:使用excel的公式进行计算,发现涉及0.07,0.14,0.28这几个数字,出现计算问题,表现形式为7-7不等于0,LOOKUP二分查找不能识别0.07。
文件类型:Microsoft Excel 97-2003 工作表 (.xls)
场景:使用EXCEL的公式进行计算。
公式:=IF(A2<=0.5,IF((A2*100-INT(A2*100))>0,LOOKUP(INT(A2*100)/100+0.01,C:D),LOOKUP(A2,C:D)),IF(A2<=2,IF((A2*10-INT(A2*10))>0,LOOKUP(INT(A2*10)/10+0.1,C:D),LOOKUP(A2,C:D)),IF((A2*2-INT(A2*2))>0,LOOKUP(INT(A2*2)/2+0.5,C:D),LOOKUP(A2,C:D))))
其中,加粗标红(简称为公式1)和加粗标蓝(简称为公式2)的地方,分别出现了两个问题。
-------------------------------------------------------------------------------------------------------------------------------------------------
公式1的作用是,判断A2*100-