lua数学计算的inf和nan

       今天,我来讲述一个lua关于对数学世界的恐惧之一,极大值和极小值。[inf] [nan]在某次偶然的log调试里,我注意到控制台输出了这么两个以前没有见过的东西。虽然我的程序代码里只有非常简单的数学计算,还是出现这样高端(未知)的东西。对数学的敬畏由此展开......

       这个知识点很简单,也许是初中或者小学时代的数学里有提及过;分子/分母的关系,简单的除法计算方式,问题也从这儿开始延展...

以下是lua脚本:

        local result = numCounts / numNeed

        print("result:"..result)

       想这样简单代码里蕴含的数学问题,一个简单的除法计算会导致一些让人震惊的bug,numNeed 是一个极小的数字,也学就是0。这个时候触发了这个很有意思的bug 得出的结果是 [inf] 出了这个bug之后,我求助于网友得出的结果是【一个极大的数值】可能已经超出了我们所有人预期。本着格物致知的原则,我确认了一下 inf的意思是infimum,另外一种更为坑爹的情况得出的结果是[nan],事后某位同学给我解答了一下,这个代表极小值...,事后我确认了一下,这个的实际意思因该是[no a number的缩写]。

       讨论回到数学课堂,这样的代码看似没有任何问题,但是,在数学的角度来说,除法计算里分母是绝对不能等于0的。从严谨的程序角度来思考这个问题,分子、分母是都不可以为0的,如果过小也会导致bug。这似乎跟程序一点儿关系都没有,但是也会导致程序的bug。延伸的说,简单的除法会导致这样的问题,如果是稍微复杂一点儿的计算公式,分子分母不能为0的情况必须加适当的拦截条件去过滤(同样接受九年义务教育的你也许不会犯这样的数学错误,不过配置表的作者就很难说了)。

      在每次数学计算之前,基于数学角度的思考,加上这些非0判断,这些参与计算的值是不可以为0的,可以使用assert断言来过滤和判断,或者根据需求给出默认值。翻译到实处就是说debug版本的提供assert断言给出明确的错误提示给测试同学作为测试依据,release版根据需求过滤此类错误留下log或者根据实际需求给出默认值(我是很抵触默认值这玩意儿的,不建议给出默认值,除非是必要的)。

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值