超级会员免费看
本文探讨了计算机存储精度如何影响数学模型的数值问题，通过示例展示极小值和极大值在运算中可能因精度损失导致等式误判。这种误差不仅影响等式关系，还可能引发更复杂的问题。解决策略包括避免模型中出现数量级相差悬殊的数值。
引起数学模型数值问题的原因有很多种，例如前面的文章《约束系数的四舍五入引起的模型数值问题》提到，对约束系数的四舍五入，会损失一定的系数精度信息，导致约束面发生一定的偏移，这种偏移无论多么轻微，都有可能导致问题求解结果出现较大差异，但这种情况是我们能够通过避免四舍五入而减少的，还有一种情况也是由于精度缺失引起的，但这种情况在很多时候一不注意很容易忽视。
我们先来看几个例子：
if 1 == 1+1e-16:
print("Equality"
订阅专栏 解锁全文
扫一扫
评论
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
查看更多评论
添加红包
