weixin_56192960的博客

原创 Fortran计算错误

计算某些系数时用到了以下公式： x=(2×l+1)×(l+m+1)×(l+m+2) 在循环中，l=645,m=644。 结果计算得到的x居然是个负数，数值也是显然错误的，不过位数倒是和正确值相同。 最后发现只要多计算一步就可以得到正确结果，如下： x=(2×l+1)x(l+m+1) x=x×(l+m+2) 具体会不会触发也比较看脸，就很迷…… ...